l2,1-norm regularization

[MahdiAlHoseini]

بسم الله الرحمن الرحیم
با سلام
منظور از l2,1-norm regularization را متوجه نمی شوم.
با سپاس فراوان

[MahdiAlHoseini]

بسم الله الرحمن الرحیم
با سلام
راجع به

regularization توضیحات جالبی در اسلایدهای دکتر شیری دیدم که ترجیح دادم اینجا قرار دهم.

• برای غلبه بر مشکل over fitting در هنگام استفاده از روش کمترین خطا اضافه کردن جمله رگولاسیون به عبارت خطا می باشد.

2.jpg

• همانطور که دیدیم هنگام بروز over fitting ضرایب چند جمله ای خیلی بزرگ می شدند. حال اگر مدل هائی که دارای ضرایب بزرگ هستند به نوعی جریمه شوند سیستم یادگیر از انتخاب آنها پرهیز خواهد نمود.
• جمله جریمه مناسب به عنوان ترم رگولاسیون به عبارت خطا اضافه میشود. ضریب لاندا اهمیت نسبی جمله رگولاسیون را مشخص میکند.

[MahdiAlHoseini]

بسم الله الرحمن الرحیم
با سلام
دوستان تعریف نرم l2,1 به شکل زیر است:
0.pngیا به عبارت دیگر مجموع نرم های اقلیدیسی ستون ها می باشد.
سوالم عبارت زیر است:
One appealing feature of the l2,1-norm regularization is that it encourages
multiple predictors to share similar sparsity patterns
چه جوری الگوهای اسپارسیتی مشابه را پیش بینی می کند؟
با سپاس فراوانبرای مشاهده این لینک/عکس می بایست عضو شوید ! برای عضویت اینجا کلیک کنید