Effective neural network training with adaptive learning rate based on training loss

یک روش که از میزان یادگیری سازگار استفاده می کند، برای آموزش شبکه های عصبی ارائه می شود. بر خلاف روش های به روز رسانی معمول که در آن دوره یادگیری به تدریج در طول آموزش کاهش می یابد، روش پیشنهادی میزان یادگیری را به میزان قابل توجهی افزایش می دهد یا کاهش می دهد بنابراین از دست رفتن آموزش (مجموع تلفات متقابل آنتروپی برای همه نمونه های آموزشی) تا حد ممکن کاهش می یابد. بنابراین، یک دامنه جستجو گسترده تر برای راه حلها فراهم می شود و در نتیجه میزان خطا تست پایین تر است. آزمایشات با برخی از مجموعه داده های شناخته شده برای آموزش یک پیش نمایشگر چند لایه نشان می دهد که روش پیشنهادی برای به دست آوردن دقت آزمایش دقیق در شرایط خاصی موثر است.