بررسی پدیده‌ی هم‌آوایی در وزن ‌های شبکه‌های عصبی جلوسو و ارائه‌ی روشی جدید برای تشخیص الگوهای هم‌آوایی

هم‌‌آوایی نورونی به عنوان یکی از مهم‌ترین پدیده‌های شناختی مغز انسان در سال‌ های اخیر مورد توجه پژوهش‌گران قرار گرفته است. پدیده‌ی هم‌آوایی اغلب در مدل‌‌های نورونی گسسته و پیوسته یا سیگنال‌های تجربی ثبت شده از مغز مورد بررسی قرار می‌گیرد اما در این پژوهش بر خلاف پژوهش‌های قبلی، پدیده‌ی هم‌آوایی برای نخستین بار در وزن‌های شبکه‌های عصبی مصنوعی در حال تعلیم مورد بررسی قرار گرفته است. یافته‌های پژوهش نشان داده که هم‌آوایی در وزن‌های این شبکه‌ها هم در حین یادگیری و هم در حالت بدون یادگیری اتفاق افتاده و از نوع هم‌آوایی عمومی است. هم‌چنین با افزایش میزان یادگیری در شبکه، میزان هم‌آوایی در وزن‌ها نیز افزایش یافته است. در این پژوهش هم‌چنین روشی جدید برای تشخیص الگوهای هم‌آوایی با استفاده از مشتق سیگنال و روش خوشه‌بندی سلسله‌مراتبی ارائه شده و یک شاخص نیز برای سنجش میزان هم‌آوایی وزن‌ها در لایه‌های مختلف شبکه‌ی عصبی معرفی شده است. بررسی این شاخص نشان داده است که وزن‌های لایه‌های نخستین شبکه در مقایسه با لایه‌های سطوح بالاتر به صورت معناداری هم‌آوایی بیش‌تری دارند.

weight synchronization in feedforward neural networks and a novel method to detect synchrony patterns

neuronal synchronization as a significant cognitive phenomenon of the human brain, has attracted the interest of neuroscience researchers in recent years. this phenomenon is generally investigated in discrete and continuous neuronal models or experimentally recorded signals of the brain. in this study, for the first time, we investigate the weight synchronization instead of neuronal synchrony, in the training step of the artificial feedforward neural networks. the findings of the study show that the generalized weight synchronization occurs both during the training mode and in the non-training mode. furthermore, as the training is completed, the synchronization increases between the weights. in this study, a new method is introduced in order to detect synchrony patterns using signal derivative and hierarchical clustering. we have also presented a criterion to quantify weight synchronization in different layers of the neural network. accordingly, the results demonstrate that the lower layers of the network have a significantly higher level of weight synchrony than the upper layers.