روش تركيب طبقه‌بند مبتني بر الگوريتم ژنتيك چندهدفه با به‌كارگيري معيارهاي خطاي طبقه‌بندي، پراكندگي، گوناگوني و تراكم

Multi Objective Genetic Algorithm Based Ensemble Classifier Using Classification Error, Sparsity, Diversity and Density Criterion

تركيب طبقه‌بندها، يك روش مؤثر در يادگيري ماشيني است كه در آن با تركيب نتايج چند طبقه‌بند سعي مي‌گردد تقريب بهتري از يك طبقه‌بند بهينه فراهم شود. براي آنكه تركيب نتايج طبقه‌بندها مفيد واقع شود بايد طبقه‌بندهاي پايه ضمن برخورداري از كارايي قابل قبول، داراي خطاهاي متفاوتي باشند. همچنين بايستي قاعده مناسبي براي تركيب خروجي طبقه‌بندهاي پايه به كار گرفته شود. روش‌هاي متعدد تركيب طبقه‌بندها ارائه شده است كه مي‌توان به روش‌هاي كيسه كردن، رأي‌گيري و روش تقويتي اشاره نمود. در اين مقاله يك روش براي تركيب نتايج طبقه‌بندها پيشنهاد شده است كه در مرحله تركيب طبقه‌بندهاي پايه از جمع وزن‌دار خروجي طبقه‌بندها استفاده شده است. وزن‌ها با استفاده از الگوريتم ژنتيك چندهدفه با بهينه‌سازي هم‌زمان چهار معيارهاي خطاي طبقه‌بندي، پراكندگي، گوناگوني و تراكم تخمين زده مي‌شوند. نتايج آزمايش‌ها روي مجموعه دادگان UCI نشان داد كه روش پيشنهادي باعث افزايش دقت سيستم طبقه‌بندي تركيبي نسبت به ديگر روش‌هاي متداول تركيب مي‌شود.

Ensemble classifier is an effective method in machine learning that attempted to provide a better approximation of an optimal classifier with combination of some classifiers results. To achieve better performance, the base classifiers should have acceptable efficiency and different classification error, also a suitable method used to combine their results. Various ensemble classification methods such as bagging, voting and strengthening methods have been presented. In this paper, we proposed the ensemble classifier based on weighted mean of the base classifiers output. The weights were estimated using a multi-objective genetic algorithm with taking classification error, sparsity, diversity and density criterion. The results of implementations on UCI datasets show that the proposed method causes more increasing classification accuracy related to other traditional ensemble classifiers.