Wild patterns: Ten years after the rise of adversarial machine learning

طبقه بندی های الگوی مبتنی بر یادگیری، از جمله شبکه های عمیق، عملکرد قابل توجهی را در زمینه های مختلف کاربردی، از بینایی کامپیوتری و امنیت سایبری نشان داده اند. با این حال، نشان داده شده است که اختلالات ورودی تهاجمی که به دقت در تمرینات و یا در زمان آزمایش انجام می شود، می توانند پیش بینی های خود را به راحتی تخریب کنند. آسیب پذیری یادگیری ماشین به چنین الگوهای وحشی (همچنین به عنوان نمونه های متضاد نامیده می شود) همراه با طراحی اقدامات مناسب مناسب در زمینه تحقیق در مورد ماشین های رایانه ای مورد بررسی قرار گرفته است. در این کار، ما یک مرور کامل از تحول این منطقه تحقیقاتی در ده سال گذشته و فراتر از آن ارائه می کنیم، از ابتکار عمل قبلی، در مورد امنیت الگوریتم های یادگیری غیر عمیق تا کارهای اخیر که با هدف درک ویژگی های امنیتی از الگوریتم های یادگیری عمیق، در زمینه دیدگاه های کامپیوتری و وظایف سایبری. ما ارتباطات جالبی میان این خطوط ظاهرا متفاوت نشان می دهیم، که منعکس کننده تصورات غلط رایج مربوط به ارزیابی امنیتی الگوریتم های یادگیری ماشین می شود. ما مدل های تهدید اصلی و حملات تعریف شده برای این هدف را بررسی می کنیم و محدودیت های اصلی کار فعلی را همراه با چالش های آینده مربوط به طراحی الگوریتم های امن تر یادگیری بحث می کنیم.