مروري بر روش هاي يادگيري انتقالي عميق

An overview of deep transfer learning methods

يادگيري عميق پاسخ بسياري از مشكلات يادگيري ماشين در دو دهه گذشته بوده است. با اين حال، با دو محدوديت قابل توجه همراه است: وابستگي به داده هاي برچسب گذاري شده گسترده و هزينه هاي آموزشي. يادگيري انتقالي در يادگيري عميق، كه به عنوان يادگيري انتقال عميق شناخته مي‌شود، تلاش مي‌كند تا با استفاده مجدد از دانش به‌دست‌آمده از داده‌ها، اين چنين اتكا و هزينه‌هايي را كاهش دهد. بيشتر تكنيك‌هاي يادگيري انتقال عميق كاربردي، رويكردهاي مبتني بر شبكه/مدل هستند. اين روش ها وابستگي مدل هاي يادگيري عميق به داده هاي آموزشي گسترده را كاهش داده و هزينه هاي آموزشي را به شدت كاهش مي دهد. علاوه بر اين، كاهش هزينه آموزش باعث مي شود يادگيري انتقال عميق روي دستگاه هاي لبه با منابع محدود قابل اجرا باشد. مانند هر پيشرفت جديد، روش هاي يادگيري انتقال عميق محدوديت هاي خاص خود را دارند و انتقال يادگيري موفق به تنظيمات و استراتژي هاي خاص براي سناريوهاي مختلف بستگي دارد. اين مقاله به بررسي مفهوم، تعريف و طبقه بندي يادگيري انتقال عميق و روش هاي شناخته شده مي پردازد. اين روش رويكردهاي يادگيري انتقال عميق را با مرور تكنيك‌هاي كاربردي يادگيري انتقال عميق در چند سال گذشته و چند تحليل تجربي از يادگيري انتقال عميق براي كشف بهترين روش براي استفاده از يادگيري انتقال عميق در سناريوهاي مختلف بررسي مي‌كند. علاوه بر اين، محدوديت‌هاي يادگيري انتقال عميق (معضل فراموشي فاجعه‌بار و مدل‌هاي از پيش آموزش‌ديده بيش از حد مغرضانه) همراه با راه‌حل‌هاي احتمالي مورد بحث قرار مي‌گيرند.