بهبود يادگيري شبكه‌هاي عصبي با استفاده از ضرايب بهينه در الگوريتم لونبرگ-ماركوارت

انعطاف‌پذيري، قابليت و كارايي بالاي شبكه‌هاي‌عصبي سبب شده كه در طيف گسترده‌اي از كاربردها مورد استفاده قرار گيرند. استفاده از يادگيري مناسب براي شبكه‌عصبي اهميت بسيار بالايي دارد و براي اين منظور مي‌توان از روش‌هاي بهينه‌سازي استفاده كرد كه مي‌توان آن‌ها را به دو دسته كلي: مبتني بر هوش و مبتني بر گراديان، تقسيم كرد. در روش‌هاي مبتني بر گراديان معمولا از گراديان مرتبه اول (روش متداول) و گراديان مرتبه دوم (روش نيوتن) استفاده مي‌شود. در روش‌هاي مبتني بر گراديان مرتبه دوم سعي شده كه سرعت همگرايي نسبت به روش گراديان متداول افزايش يابد، منتهي حجم محاسبات (ماتريس هسين) نيز افزايش مي‌يابد. براي جبران مسئله محاسبات ماتريس هسين روش‌هايي ارائه شده است، از جمله روش لونبرگ-ماركوارت كه در آن به جاي محاسبه ماتريس هسين، فقط قسمتي از آن كه داراي محاسبات كم است استفاده مي‌شود كه با اين ايده حجم محاسبات كاهش يافته ولي همچنان سرعت همگرايي بسيار مناسب است. در اين روش با افزودن پارامتري به نام ضريب همبستگي، تركيبي از روش‌هاي گراديان مرتبه اول و مرتبه دوم ارائه شده است. در اين مقاله مسئله يادگيري شبكه عصبي با استفاده از روش لونبرگ-ماركوارت حل شده‌است و همچنين سعي شده كه با ايده گرفتن از روش روزن‌بروك، روشي مناسب براي تعيين ضريب همبستگي ارائه شود. نهايتا روش پيشنهادي براي يادگيري شبكه‌عصبي به منظور شناسايي يا مدلسازي يك تابع غيرخطي استفاده شده است و نتايج بدست آمده با نتايج حاصل از روش ازدحام‌ذرات (مبتني بر هوش جمعي) و روش گراديان متداول مقايسه شده است كه برتري روش پيشنهادي را نشان مي‌دهد.