روش به روز رساني متقارن از مرتبه اول براي حل مسايل بهينه سازي مقياس بزرگ

Symmetric Rank-One Method for Solving Large-Scale Optimization Problems

جستجو جهت يافتن كمينه موضعي در مسايل بهينه­ سازي نامقيد و يك نقطه ثابت از دستگاه گراديان معادلات ديفرانسيل معمولي دو مساله نزديك به هم مي ­باشند، الگوريتم­ هاي با حافظه محدود به طور گسترده­ اي جهت حل مسايل مقياس بزرگ استفاده مي­ شوند؛ در حالي كه روش­ هاي رانگ كوتا نيز براي حل عددي معادلات ديفرانسيل مورد استفاده قرار مي­ گيرند. در اين تحقيق با استفاده از ايده روش زير فضا و طول گام ثابت و ادغام تكنيك­ هاي جستجوي خطي و ناحيه مطمئن، يك روش پيوندي مبتني بر ODE براي حل مسايل بهينه­ سازي مقياس بزرگ ارايه شده است. با توجه به اينكه روش­ هاي جستجوي خطي ممكن است نيازمند تكرار­هاي بيش­تري براي همگرايي باشند؛ در حالي­ كه روش­ هاي ناحيه مطمئن نيز نيازمند تكرارهاي زيادي براي حل زير مساله مقيد باشند، كلاس جديدي از روش­ ها طوري پيشنهاد شده، كه بتواند بهترين ويژگي­­ هاي روش ­هاي ناحيه مطمئن و جستجوي خطي را با هم تركيب كند، ويژگي اصلي روش پيشنهادي اين است كه دستگاه معادلات خطي فقط يك ­بار جهت به دست آوردن گام آزمايشي حل مي­ شود. علاوه بر اين، در صورتي كه گام آزمايشي مورد قبول قرار نگيرد اين روش از جستجوي خطي بهره مي­ جويد. نتايج يك سري از آزمون­ ها بر روي مسايل بهينه ­سازي نامقيد استاندارد گزارش­شده­ است. اين نتايج عددي نشان دهنده مؤثر بودن الگوريتم جديد براي حل مسايل مقياس بزرگ مي­ باشد.

The search for finding the local minimization in unconstrained optimization problems and a fixed point of the gradient system of ordinary differential equations are two close problems. Limited-memory algorithms are widely used to solve large-scale problems, while Rang Kuta's methods are also used to solve numerical differential equations. In this paper, using the concept of sub-space method and fixed-step length and integration of line-search and trust-region techniques, an ODE-based hybrid method is proposed for solving large-scale optimization problems. Since the line-search methods may require more iteration for convergence, while Trust-region methods also require a lot of iteration to solve the constrained sub problem, a new class of methods is proposed in this way, which combines the best features of trust-region and line-search methods. The main feature of the proposed method is that the linear equation system is solved only once in order to obtain the experimental step.