От практическа гледна точка L1 има тенденция да свива коефициентите до нула, докато L2 има тенденция да свива коефициентите равномерно. Следователно L1 е полезно за избор на характеристики, тъй като можем да изпуснем всички променливи, свързани с коефициенти, които отиват на нула. L2, от друга страна, е полезен, когато имате колинеарни/козависими характеристики.
Каква е ползата от регуляризацията Какво представляват L1 и L2 регуляризация?
L1 регуляризацията дава изход в двоични тегла от 0 до 1 за характеристиките на модела и е приета за намаляване на броя на характеристиките в огромен набор от размери. Регуляризацията на L2 разпръсква термините за грешка във всички тегла, което води до по-точни персонализирани крайни модели.
Какви са разликите между L1 и L2 регуляризация?
Основната интуитивна разлика между L1 и L2 регуляризацията е, че L1 регуляризацията се опитва да оцени медианата на данните, докато L2 регуляризацията се опитва да оцени средната стойност на данните, за да избегне прекомерно монтиране. … Тази стойност също ще бъде медианата на разпределението на данните математически.
Какво е L1 и L2 урегулиране в дълбокото обучение?
L2 регуляризацията е известна още като спад на теглото, тъй като принуждава теглата да намаляват към нула (но не точно нула). В L1 имаме: В това наказваме абсолютната стойност на теглата. За разлика от L2, тук теглата могат да бъдат намалени до нула. Следователно е много полезно, когато се опитваме да компресираменашия модел.
Как работи L1 и L2 узаконяване?
Регресионен модел, който използва L1 техника за регуляризация, се нарича Ласо регресия, а моделът, който използва L2, се нарича Ридж регресия. Основната разлика между тези две е срокът на наказанието. Ридж регресията добавя „величина на квадрат“на коефициента като наказателен член към функцията на загуба.
