کد مقاله کد نشریه سال انتشار مقاله انگلیسی نسخه تمام متن
4977652 1451930 2017 11 صفحه PDF دانلود رایگان
عنوان انگلیسی مقاله ISI
Highly efficient hierarchical online nonlinear regression using second order methods
ترجمه فارسی عنوان
رگرسیون غیر خطی آنلاین سلسله مراتبی بسیار کارا با استفاده از روش های مرتبه دوم
کلمات کلیدی
ترجمه چکیده
ما الگوریتم های رگرسیون غیر خطی آنلاین بسیار کارآمد را که برای برنامه های زندگی واقعی مناسب هستند معرفی می کنیم. ما داده ها را در یک روش واقعا آنلاین پردازش می کنیم، به طوری که هیچ ذخیره سازی مورد نیاز نیست، یعنی داده ها بعد از استفاده حذف می شوند. برای مدل سازی غیرخطی، ما از یک رویکرد خطی پویا سلسله مراتبی بر اساس مفهوم درخت های تصمیم گیری استفاده می کنیم که در آن فضای بردارهای رگرسیون بر اساس عملکرد سازگارانه تقسیم می شود. به عنوان اولین بار در ادبیات، ما هر دو پراکندگی خطی قطعه ای از فضای رگرسیون و نیز مدل های خطی در هر منطقه با استفاده از روش های بسیار مرتبه دوم مرتبه، یعنی روش های نیوتن-رافسون یاد می گیریم. از این رو ما با استفاده از مدلهای خطی قطعه ای از مسائل به خوبی شناخته شده جلوگیری می کنیم، در حالی که هر دو مرزهای منطقه و همچنین مدل های خطی در هر منطقه با استفاده از روش های مرتبه دوم آموزش دیده اند، ما عملکرد قابل توجهی نسبت به وضعیت هنر ما دستاوردهای ما را بر روی مجموعه داده های معروف شناخته شده نشان می دهیم و نتایج عملکرد را در یک توالی فردی تضمین می کنیم که بدون هیچ گونه فرضیه آماری نگهداری می شود. از این رو، الگوریتم های معرفی شده مسائل پیچیدگی محاسباتی را که در برنامه های کاربردی واقعی در معرض دید عموم قرار می گیرند، در حالی که عملکرد تضمین شده برتر را در یک حس قوی به دست می دهند.
موضوعات مرتبط
مهندسی و علوم پایه مهندسی کامپیوتر پردازش سیگنال
چکیده انگلیسی
We introduce highly efficient online nonlinear regression algorithms that are suitable for real life applications. We process the data in a truly online manner such that no storage is needed, i.e., the data is discarded after being used. For nonlinear modeling we use a hierarchical piecewise linear approach based on the notion of decision trees where the space of the regressor vectors is adaptively partitioned based on the performance. As the first time in the literature, we learn both the piecewise linear partitioning of the regressor space as well as the linear models in each region using highly effective second order methods, i.e., Newton-Raphson Methods. Hence, we avoid the well known over fitting issues by using piecewise linear models, however, since both the region boundaries as well as the linear models in each region are trained using the second order methods, we achieve substantial performance compared to the state of the art. We demonstrate our gains over the well known benchmark data sets and provide performance results in an individual sequence manner guaranteed to hold without any statistical assumptions. Hence, the introduced algorithms address computational complexity issues widely encountered in real life applications while providing superior guaranteed performance in a strong deterministic sense.
ناشر
Database: Elsevier - ScienceDirect (ساینس دایرکت)
Journal: Signal Processing - Volume 137, August 2017, Pages 22-32
نویسندگان
, , ,