Comprehensive study of feature selection methods to solve multicollinearity problem according to evaluation criteria

این مقاله روشی جدید برای انتخاب ویژگی بر مبنای مفهوم فیلترهای ویژگی فراهم می کند، به طوری که انتخاب ویژگی مستقل از مدل پیش بینی است. اتصالات داده به عنوان یک مسئله بهینه سازی یک هدف مشخص شده است، جایی که تابع هدف نشان دهنده خطای تقریب بردار هدف به عنوان برخی از عملکرد از ویژگی های داده شده است. وابستگی خطی بین ویژگی ها منجر به مشکل چند زاویه ای می شود و منجر به بی ثباتی مدل و افزونگی مجموعه ویژگی می شود. این مقاله یک روش انتخاب ویژگی بر اساس برنامه نویسی درجه دوم را معرفی می کند. این رویکرد، وابستگی متقابل ویژگی ها و بردار هدف را در نظر می گیرد و ویژگی ها را با توجه به مقیاس های مرتبط و تشابه که با توجه به مشکل خاص مشخص می شود، انتخاب می کند. ایده اصلی این است که به حداقل رساندن وابستگی متقابل و به حداکثر رساندن کیفیت تقریبی با تغییر یک بردار دودویی که نشان دهنده حضور ویژگی ها است. مدل انتخاب شده کمتر از حد معمول و پایدار است. برای ارزیابی کیفیت روش انتخاب ویژگی پیشنهاد شده و مقایسه آن با دیگران، از معیارهای مختلفی برای اندازه گیری بی ثباتی و اضافه کاری استفاده می کنیم. در آزمایشات ما رویکرد پیشنهادی را با چندین روش انتخاب دیگر ویژگی مقایسه می کنیم و نشان می دهیم که رویکرد برنامه نویسی درجه یک با توجه به معیارهای در نظر گرفته شده برای آزمون و مجموعه داده های واقعی، نتایج برتر ارائه می دهد.