کد مقاله کد نشریه سال انتشار مقاله انگلیسی نسخه تمام متن
6884685 1444344 2018 8 صفحه PDF دانلود رایگان
عنوان انگلیسی مقاله ISI
Distributed learning of deep neural network over multiple agents
ترجمه فارسی عنوان
یادگیری توزیع شده شبکه عمیق عصبی بر روی عوامل متعدد
کلمات کلیدی
محاسبات چند حزبی، یادگیری عمیق، سیستم های توزیع شده،
ترجمه چکیده
در حوزه هایی مانند مراقبت های بهداشتی و مالی، کمبود داده های برچسب گذاری شده و منابع محاسباتی در حین توسعه الگوریتم های یادگیری ماشین، مسئله مهمی است. برای رسیدگی به مسئله کمبود داده های برچسب گذاری شده در آموزش و استقرار سیستم های مبتنی بر شبکه عصبی، ما یک روش جدید برای آموزش شبکه های عصبی عمیق را بر چندین منبع داده پیشنهاد می کنیم. روش ما اجازه می دهد تا شبکه های عصبی عمیق را با استفاده از داده های موجود در چندین حالت آموزش داده شود. ما الگوریتم ما را بر روی مجموعه داده های موجود ارزیابی می کنیم و نشان می دهیم که عملکردی به دست می آید که مشابه یک شبکه عصبی منظم است که در یک ماشین آموزش دیده است. ما بیشتر آن را گسترش می دهیم تا یادگیری نیمه نظارتی را در هنگام آموزش با چند نمونه نشاندار، و تجزیه و تحلیل هر نگرانی های امنیتی که ممکن است بوجود می آیند. الگوریتم ما راه را برای آموزش توزیع شبکه های عصبی عمیق در برنامه های حساس داده می کند، زمانی که داده های خام به طور مستقیم نمی توانند به اشتراک گذاشته شوند.
موضوعات مرتبط
مهندسی و علوم پایه مهندسی کامپیوتر شبکه های کامپیوتری و ارتباطات
پیش نمایش مقاله
یادگیری توزیع شده شبکه عمیق عصبی بر روی عوامل متعدد
چکیده انگلیسی
In domains such as health care and finance, shortage of labeled data and computational resources is a critical issue while developing machine learning algorithms. To address the issue of labeled data scarcity in training and deployment of neural network-based systems, we propose a new technique to train deep neural networks over several data sources. Our method allows for deep neural networks to be trained using data from multiple entities in a distributed fashion. We evaluate our algorithm on existing datasets and show that it obtains performance which is similar to a regular neural network trained on a single machine. We further extend it to incorporate semi-supervised learning when training with few labeled samples, and analyze any security concerns that may arise. Our algorithm paves the way for distributed training of deep neural networks in data sensitive applications when raw data may not be shared directly.
ناشر
Database: Elsevier - ScienceDirect (ساینس دایرکت)
Journal: Journal of Network and Computer Applications - Volume 116, 15 August 2018, Pages 1-8
نویسندگان
, ,