ارائه یک راهکار انتخاب ویژگی چندهدفه با استفاده از نظریه اطلاعات متقابل و نظریه مجموعه پارتو

انتخاب ویژگی، فرایند انتخاب زیرمجموعه‌ای از میان مجموعه ویژگی‌های اولیه است، بطوری‌که با حذف ویژگی‌های اضافی و نامربوط دقت دسته‌بندی افزایش یابد. روش‌های انتخاب ویژگی فیلتر به دلیل پیچیدگی محاسباتی پایین، مقیاس‌پذیری از نظر ابعاد داده‌ها و استقلال از انواع دسته‌بندها از اهمیت بالایی برخوردار هستند. اما یکی از نقاط ضعف این دسته روش‌ها، کمبود اطلاعات در مورد تعامل و ارتباطات بین ویژگی‌ها است که منجر به انتخاب ویژگی‌های افزونه و نامربوط می‌شود. انتخاب ویژگی‌های افزونه و نامربوط به دلیل انتخاب نامناسب تابع هدفی است که بر اساس آن میزان اهمیت و افزونگی ویژگی‌ها تخمین زده می‌شود. در این مقاله یک روش انتخاب ویژگی فیلتر غیرخطی بر اساس اطلاعات متقابل شرطی و مجموعه پارتو ارائه و به‌منظور نشان دادن کارایی آن، یک سری آزمایش‌ها بر روی 12 مجموعه داده آموزشی پرکاربرد انجام شده است. طبق نتایج به‌دست‌آمده، الگوریتم پیشنهادی در مقایسه با تعدادی از الگوریتم‌های انتخاب ویژگی اخیر از دقت بالاتری برخوردار است.

A Multi-Objective Feature Selection Method based on the Conditional Mutual Information and Pareto Set Theory

Feature selection is the process of selecting a subset of features among the set of primary features, so that, by removing the redundant and irrelevant features, the accuracy of the classification increases. Because of the low computational complexity, scalability in term of data dimensions and independence of any classifier, filter selection methods are very important. But one of the weaknesses of these methods is the lack of information about the interaction and communication between the features which leads to select redundant and irrelevant features. Selection of redundant and irrelevant features is due to the inappropriate selection of an objective function which estimates the significance and redundancy of the features. In this paper, a nonlinear filter feature selection method, based on conditional mutual information and Pareto set is presented and to prove the efficiency of it a series of experiments are performed on twelve widely used datasets. According to the results, the proposed method is more accurate than a number of recently feature selection methods.