كدبرداري از كدهاي خطي بر مبناي معادله سندرم با استفاده از يادگيري عميق

A Syndrome Based Decoding of Linear Codes Using Deep Learning Method

استفاده از كدهاي طول كوتاه در ارتباطات ديجيتال به خاطر فراگير شدن پديده اينترنت اشياء از اهميت ويژه‌اي برخوردار است. از طرفي مدل هاي يادگيري عميق در زمينه‌هاي مختلفي مانند تشخيص اشياء و تشخيص گفتار نتايج لبه علمي را بدست آورده‌اند. از اين ميان شبكه‌هاي كانولوشني نقش اساسي در موفقيت مدل هاي يادگيري عميق را دارند. براي افزايش دقت كدبرداري كدهاي طول كوتاه (Low Density Parity Check Codes) بر مبناي معادله علامت از شبكه كانولوشني استفاده گرديد. براي تعيين جواب معادله علامت، از روش تشخيص الگوي خطا بهره گرفته شد. به اين منظور، نخست شبكه كانولوشني يك بعدي با سه لايه اصلي كه هر لايه شامل زيرلايه‌هاي كانولوشن و ادغام ميباشند استفاده شد. سپس خروجي شبكه كانولوشني بر شبكه برگشتي GRU اعمال گرديد. شبكه برگشتي GRU با تعداد سه برابر طول كدواژه با تابع فعالسازي ReLU مورد استفاده واقع گرديد. تعيين مقدار ابرپارامترهاي شبكه عصبي مورد استفاده ابتدا بصورت مقادير پيش فرض كتابخانه تنسورفلو نسخه 2 مقدار دهي و در برخي موارد براي افزايش دقت تغيير داده شدند. مقايسه بين مدل تركيبي حاصل از شبكه كانولوشني يك بعدي و شبكه برگشتي با مدل شبكه برگشتي نشان مي دهد كه براي كد LDPC با طول 64 در كاهش نرخ خطاي بيت، مدل تركيبي حاصل از شبكه كانولوشني و شبكه GRU بهتر عمل ميكند. نرخ خطاي بيت در شرايط نويزي مختلف به ميزان 5.0 تا 8.0 دسيبل كمتر از ميزان كدبردار بيشينه‌گر احتمال ميباشد. همچنين نشان داديم كه شبكه‌هاي كانولوشني در كنار شبكه‌هاي برگشتي پتانسيل اين را دارند كه بتوانند عملكرد چنين شبكه‌هايي را بهبود ببخشند.

Using short-length codes has height degree of importance because of the Internet-of-Things ubiquitous applications. On the other hand, Deep Learning Methods have acquired state-of-the-art in object detection, speech processing, and other fields. Meanwhile, Convolutional Neural Network (CNN) models play a fundamental role in Deep Learning methods success. We used the CNN model for boosting the accuracy of syndrome-based decoding of Low-Density Parity-Check Codes (LDPC). an‎d for determining the solution of syndrome equations, we used an error pattern recognition method. To do so, we used a three-layered CNN in which any layer contains a pooling and convolution sub-layer. Then the output of CNN was applied to Gated Recurrent Unit (GRU). We used GRU recurrent network with rectified linear unit (ReLU) activation function, and node counts as three times as codeword-length. We used the Tensorflow library’s default value for hyperparameters. For some hyper-parameters, we altered manually for accuracy improvement reasons. Comparing the mixed model and bare recurrent model showed that for LDPC code, with a length of 64, the bit error rate drops when we used the combinatory model. In different signal-to-noise conditions, the bit error rate drops 0.5 to 0.8 Db toward the Maximum Likelihood decoder. Also, we showed that CNNs have the potential to improve the recurrent network accuracy.