ارائه روشي مقاوم در برابر حملات تخاصمي با استفاده از فرايندهاي گوسي مقياس‌پذير و رأي‌گيري

در سال‌هاي اخير، مسئله‌اي تحت عنوان آسيب‌پذيري مدل‌هاي مبتني بر يادگيري ماشين مطرح گرديده است كه نشان مي‌دهد مدل‌هاي يادگيري در مواجهه با آسيب‌پذيري‌ها از مقاومت بالايي برخوردار نيستند. يكي از معروف‌ترين آسيب‌ها يا به بيان ديگر حملات، تزريق مثال‌هاي تخاصمي به مدل مي‌باشد كه در اين مورد، شبكه‌هاي عصبي و به ويژه شبكه‌هاي عصبي عميق بيشترين ميزان آسيب‌پذيري را دارند. مثال‌هاي تخاصمي، از طريق افزوده‌شدن اندكي نويز هدفمند به مثال‌هاي اصلي توليد مي‌شوند، به طوري كه از منظر كاربر انساني تغيير محسوسي در داده‌ها مشاهده نمي‌شود اما مدل‌هاي يادگيري ماشيني در دسته‌بندي داده‌ها به اشتباه مي‌افتند. يكي از روش‌هاي موفق جهت مدل‌كردن عدم قطعيت در داده‌ها، فرايندهاي گوسي هستند كه چندان در زمينه مثال‌هاي تخاصمي مورد توجه قرار نگرفته‌اند. يك دليل اين امر مي‌تواند حجم محاسباتي بالاي اين روش‌ها باشد كه كاربردشان در مسايل واقعي را محدود مي‌كند. در اين مقاله از يك مدل فرايند گوسي مقياس‌پذير مبتني بر ويژگي‌هاي تصادفي بهره گرفته شده است. اين مدل علاوه بر داشتن قابليت‌هاي فرايندهاي گوسي از جهت مدل‌كردن مناسب عدم قطعيت در داده‌ها، از نظر حجم محاسبات هم مدل مطلوبي است. سپس يك فرايند مبتني بر رأي‌گيري جهت مقابله با مثال‌هاي تخاصمي ارائه مي‌گردد. همچنين روشي به نام تعيين ارتباط خودكار به منظور اعمال وزن بيشتر به نقاط داراي اهميت تصاوير و اعمال آن در تابع هسته فرايند گوسي پيشنهاد مي‌گردد. در بخش نتايج نشان داده شده كه مدل پيشنهادشده عملكرد بسيار مطلوبي در مقابله با حمله علامت گراديان سريع نسبت به روش‌هاي رقيب دارد.