روشي مبتني بر ماشين يادگيري سريع با هسته غيرخطي براي انتخاب نمونه‌هاي اوليه در يادگيري چندبرچسبه مقياس بزرگ

A prototype selection method based on kernel extreme learning machine in largescale multilabel learning

با وجود حجم عظيم محتواي چند رسانه‌اي در وب، ذخيره سازي و بازيابي آنها با بكارگيري روش‌هاي يادگيري موجود با محدوديت ‌هايي از جمله كمبود حافظه مواجه شده است. تاثير گذاري محدوديت‌هاي مد نظر در روش‌هاي يادگيري داراي مرحله آموزش مانند ماشين بردار پشتيبان (SVM) و شبكه هاي عصبي تا جايي است كه امكان بكارگيري اين روش‌ها در كاربرد‌هاي مقياس بزرگ تقريبا غير‌ممكن است. روش ماشين يادگيري سريع مبتني بر هسته غير‌خطي (KELM) يكي از روش‌هاي قدرتمند ارائه شده در حوزه يادگيري ماشين است. اساس مرحله يادگيري در اين روش مبتني بر ساخت ماتريس هسته‌ي نمونه‌هاي برچسب‌دار و محاسبه معكوس آن مي‌باشد. از اينرو، بكارگيري اين روش در محيط‌هاي مقياس بزرگ با وجود تعداد زياد نمونه‌هاي برچسب دار امكان‌پذير نيست. در اين پژوهش به منظور حل مشكل مطرح شده در بكارگيري KELM در كاربردهاي مقياس بزرگ، روشي مبتني بر انتخاب نمونه‌هاي اوليه با بهره‌گيري از KELM در مقياس كوچك همسايگي هر نمونه آموزش ارائه شده است. با بكارگيري روش انتخاب نمونه‌هاي اوليه ارائه شده، حجم مجموعه آموزش كاهش مي‌يابد. بنابراين امكان استفاده از روش يادگيري KELM در كاربردهاي مقياس بزرگ فراهم مي‌شود. از آنجايي كه كاربردهاي حوزه چند رسانه اي وب به صورت چندبرچسبه مي‌باشند، روش ارائه شده در انتخاب نمونه‌هاي اوليه، مبتني بر كاربردهاي چندبرچسبه مانند شرح‌گذاري خودكار تصاوير است. نتايج آزمايش‌هاي تجربي بر روي دادگان چندبرچسبه مقياس بزرگ NUSWIDE و نسخه‌هاي آن مانندObject، Scene و Lite بيانگر كارايي روش ارائه شده در حل محدوديت‌هاي بكارگيري KELM در كاربردهاي چندبرچسبه مقياس بزرگ با انتخاب نمونه‌هاي اوليه دارد.

With a largeamount of multimedia content in the web, storage and retrieval of them by classical learning methods dealt with some major challenges like memory restriction. These limitations in some of learning algorithms like SVM and ANN is so serious that these algorithms cannot be employed in largescale learning context. Kernel Extreme Learning Machine (KELM) algorithm is one of the powerful methods in machine learning. Learning phase of this method is based on constructing kernel matrix of labeled instances and calculating inverse of it. So, employing this method in large scale learning context with a lot of labeled instances is not feasible. In this research to overcome limitation of employing the KELM in largescale multilabel learning, a new approach is proposed. The proposed approach is based on prototype selection in neighborhood of each training instance. By using the proposed approach, the size of training set is reduced. So, classical learning methods can be applied on reduced training set. Since multimedia contents are basically multilabel, the proposed prototype selection approach is based on multilabel domains like automatic image annotation. Experimental results on NUSWIDE largescale multilabel image set and three other versions include Object, Scene and Lite indicated the effectiveness of the proposed approach in solving the limitation of employing KELM method in largescale multilabel learning.