Title of article :
A Differential Evolution and Spatial Distribution based Local Search for Training Fuzzy Wavelet Neural Network
Author/Authors :
Bazoobandi, H. A Department of Computer Engineering - Shahid Bahonar University of Kerman, Kerman, Iran , Eftekhari, M Department of Computer Engineering - Shahid Bahonar University of Kerman, Kerman, Iran
Abstract :
Many parameter-tuning algorithms have been proposed for training Fuzzy Wavelet Neural Networks
(FWNNs). Absence of appropriate structure, convergence to local optima and low speed in learning
algorithms are deficiencies of FWNNs in previous studies. In this paper, a Memetic Algorithm (MA) is
introduced to train FWNN for addressing aforementioned learning lacks. In proposed MA, Differential
Evolution (DE) is utilized as the global search. The main contributions of this paper aresummarized in
three sections. (I) Proposing a new, fast and effective local search based on spatial distribution that is
named Spatial Distribution Local Search (SDLS). SDLS can adjust the step size of movements toward
better neighbor solutions adaptively. (II) Introducing a selection method to select appropriate individuals
from current population for local refinement in MA. This property decreases the computational cost of
MA and leads to tuning the local search frequency in an adaptive way. (III) Improving the selection
operator in standard DE by an adaptive strategy. In this strategy, worse offspring has a chance to be
replaced with its parent to prevent trapping in local optima and controlling the selection pressure. The
proposed MA is compared with several training algorithms of FWNNs over some benchmark problems.
Experimental results obtained, confirm the effectiveness of the proposed MA for improving the
convergence rate and modeling accuracy in comparison to the other training methods.
Farsi abstract :
الگوريتم هاي بسياري تا كنون براي تنظيم پارامترهاي شبكه هاي عصبي فازي موجك معرفي شده اند. نبود يك ساختار مناسب، همگرايي به بهينه هاي محلي و سرعت پائين را مي توان از مهم ترين اشكالات مطالعات گذشته در مورد شبكه هاي عصبي فازي موجك دانست. در اين مقاله يك الگوريتم ممتيك براي رفع اين اشكالات پيشنهاد شده است. در روش پيشنهادي الگوريتم تكامل تفاضلي به عنوان جستجو كننده سراسري استفاده شده است. مهم ترين نوآوري هاي اين مقاله عبارتند از: 1) در اين مقاله يك الگوريتم جستجوي محلي براساس توزيع فضايي معرفي شده است. 2) يك روش انتخاب جديد براي انتخاب افراد مناسب از جمعيت براي اعمال جستجوي محلي ارائه شده است. 3) عملگر انتخاب در روش جستجوي تفاضلي تكاملي به گونه اي بهبود داده شده است كه براي افراد نامناسب از جمعيت هم امكان انتخاب وجود داشته باشد. اين استراتژي باعث ميشود فشار انتخاب در مراحل الگوريتم به خوبي كنترل گردد. الگوريتم ممتيك پيشنهادي با چندين الگوريتم يادگيري ديگر روي توابع محك مقايسه شده است. نتايج عملي بدست آمده بهبود نرخ همگرايي و دقت بالاتر مدل هاي بدست آمده را در مقايسه با ساير روش هاي يادگيري نشان مي دهد.
Keywords :
Fuzzy Wavelet Neural Network (FWNN) , Memetic Algorithm , Differential Evolution , Spatial Distribution Local Search , Adaptive Selection Strategy
Journal title :
Astroparticle Physics