Author/Authors :
Alibakhshi، F نويسنده Control Department, Islamic Azad University South Tehran Branch, Tehran, Iran , , Teshnehlab، M نويسنده Center of Excellence in Industrial Control, K.N. Toosi University, Tehran, Iran , , Alibakhshi، M نويسنده Young Researchers & Elite Club, Borujerd Branch, Islamic Azad University, Borujerd, Iran , , Mansouri، M نويسنده Intelligent System Laboratory (ISLAB), Electrical & Computer engineering department, K.N. Toosi University, Tehran, Iran ,
Abstract :
بحث پايداري در شبكه‌هاي عصبي شناساگر و كنترل‌كننده يكي از موارد پراهميت در مهندسي كنترل مي‌باشد، كه در اين راستا تحقيقات متنوعي صورت پذيرفته است كه عمدتاً در چهار چوب شبكه هاي عصبي معمولي بوده است. در اين مقاله الگوريتم گراديان نزولي تطبيقي با قوانين يادگيري پايدار براي پارامترهاي شبكه عصبي پويا پيشنهاد شده و پايداري الگوريتم آموزشي بررسي شده است. توسط روش پيشنهادي محدوده‌هايي براي نرخ آموزش تعريف مي شوند. قضيه پايداري لياپانوف براي بررسي پايداري الگوريتم پيشنهادي بكار برده مي شود. قضيه پايداري لياپانوف، پايداري الگوريتم آموزش را تضمين مي كند. در روش پيشنهادي، نرخ آموزش بصورت بهنگام محاسبه و نرخ آموزش تطبيقي براي شبكه عصبي پويا بكار برده مي شود. نتايج شبيه‌سازي صحت نتايج را نشان مي‌دهد.
Abstract :
The stability of learning rate in neural network identifiers and controllers is one of the challenging issues, which attract many researchers’ interest in neural networks. This paper suggests adaptive gradient descent algorithm with stable learning laws for modified dynamic neural network (MDNN) and studies the stability of this algorithm. Also, stable learning algorithm for parameters of MDNN is proposed. By the proposed method, some constraints are obtained for learning rate. Lyapunov stability theory is applied to study the stability of the proposed algorithm. The Lyapunov stability theory guaranteed the stability of the learning algorithm. In the proposed method, the learning rate can be calculated online and will provide an adaptive learning rate for the MDNN structure. Simulation results are given to validate the results.
