حذف تصادفی (شبکههای عصبی)
From Wikipedia, the free encyclopedia
From Wikipedia, the free encyclopedia
حذف تصادفی یک روشِ تنظیم مدل (به انگلیسی: regularization)، برای کاهش بیشبرازش (به انگلیسی: overfitting) در شبکههای عصبی است.[1] در این روش، درصدی از وزنهای یک شبکه عصبی هر بار به صورت تصادفی از روند یادگیری حذف میشود.[2][3] برای یادگیری وزنهای شبکه عصبی از الگوریتم گرادیان کاهشی تصادفی استفاده میشود، و هر بار وزنهای شبکه با استفاده از زیرمجموعهای کوچک از دادهها به صورت متناوب بروز میشوند تا تابع ضررِ به اندازه کافی کوچک شود. در روش حذف تصادفی هر بار که وزنها بروز میشوند یک سری از آنها را به صورت تصادفی از پروسه یادگیری حذف میشوند.[3]
Seamless Wikipedia browsing. On steroids.
Every time you click a link to Wikipedia, Wiktionary or Wikiquote in your browser's search results, it will show the modern Wikiwand interface.
Wikiwand extension is a five stars, simple, with minimum permission required to keep your browsing private, safe and transparent.