مروري بر روش هاي هرس در شبكه هاي عصبي عميق با تاكيد بر روش هاي هرس پيش از آموزش

با گسترش كاربرد شبكه هاي عصبي، عميق شدن و افزايش پارامترهاي شبكه، در عين حال محدوديت منابع محاسباتي، محدوديت در حافظه و تفسيرناپذير شدن اين شبكه ها، فشرده سازي شبكه هاي عصبي مورد توجه قرار گرفته است. فشرده سازي مي بايست به صورت هوشمندانه باشد، به نحوي كه ما را از مزاياي بهره مندي از شبكه هاي عصبي عميق جدا نكند. هرس به عنوان يكي از روش هاي فشرده سازي با حذف پارامترهاي غيرضروري شبكه، همواره مورد اقبال پژوهشگران بوده است، به نحوي كه در پژوهش هاي اخير سعي شده است، مرحله اي با عنوان هرس پيش از آموزش شبكه، در مراحل قبل از راه اندازي شبكه گنجانده شود تا از مزاياي فشرده سازي و هرس در مراحل آموزش و استنتاج شبكه بهره برده شود. در مقاله پيش رو سعي شده است، مروري بر روش هاي هرس با تاكيد بر هرس هاي پيش از آموزش شبكه انجام شود. در ابتدا مباني هرس مطرح شده، سپس انواع هرس به همراه تعريف رياضي هريك مطرح و در نهايت بررسي دقيقتري روي هرس هاي پيش از آموزش شبكه انجام شده است.