PDA

مشاهده نسخه کامل : l2,1-norm regularization



MahdiAlHoseini
12-06-17, 03:55
بسم الله الرحمن الرحیم
با سلام
منظور از l2,1-norm regularization را متوجه نمی شوم.
با سپاس فراوان

MahdiAlHoseini
13-06-17, 11:10
بسم الله الرحمن الرحیم
با سلام
راجع به
regularization توضیحات جالبی در اسلایدهای دکتر شیری دیدم که ترجیح دادم اینجا قرار دهم.

برای غلبه بر مشکل over fitting در هنگام استفاده از روش کمترین خطا اضافه کردن جمله رگولاسیون به عبارت خطا می باشد.

20340


همانطور که دیدیم هنگام بروز over fitting ضرایب چند جمله ای خیلی بزرگ می شدند. حال اگر مدل هائی که دارای ضرایب بزرگ هستند به نوعی جریمه شوند سیستم یادگیر از انتخاب آنها پرهیز خواهد نمود.
جمله جریمه مناسب به عنوان ترم رگولاسیون به عبارت خطا اضافه میشود. ضریب لاندا اهمیت نسبی جمله رگولاسیون را مشخص میکند.

MahdiAlHoseini
14-06-17, 18:56
بسم الله الرحمن الرحیم
با سلام
دوستان تعریف نرم l2,1 به شکل زیر است:
20367یا به عبارت دیگر مجموع نرم های اقلیدیسی ستون ها می باشد.
سوالم عبارت زیر است:
One appealing feature of the l2,1-norm regularization is that it encourages
multiple predictors to share similar sparsity patterns
چه جوری الگوهای اسپارسیتی مشابه را پیش بینی می کند؟
با سپاس فراوان:11():