Simulační studie lasso regrese a elastic net regrese v přítomnosti skupinových efektů - Chládek, Jakub (2021)
Tato bakalářská práce se věnuje popisu a analýze vlastností dvou penalizačních regresních metod, lasso regrese a elastic net regrese. Tyto metody byly navrženy jako alternativa ke klasické metodě nejmenších čtverců, která má dva nedostatky spojené s predikcí dat a výběrem proměnných z modelu. Obě analyzované metody poskytují řešení pro tyto nedostatky, za což vděčí jejich schopnosti smršťovat koeficienty jednotlivých proměnných směrem k nule. Jejich rozdílný přístup k volbě proměnných, stejně jako rozdílná přesnost predikce, je zkoumána prostřednictvím simulační studie. Cílem práce je zjistit, která z metod poskytuje lepší výsledky v rámci těchto dvou zkoumaných aspektů. Také se zabývá identifikací konkrétních situací, ve kterých daná metoda pracuje lépe a snaží se odůvodnit čím to je způsobeno. V analýze je upřena obzvlášť velká pozornost na situace, ve kterých se pracuje se skupinami vysoce korelovaných proměnných. Naivní verze elastic net regrese, která je použita v praktické části analýzy, dokáže odhalit skupinový efekt korelovaných proměnných. Také se umí lépe vypořádat se situacemi, ve kterých je počet proměnných mnohem větší než počet pozorování. To ve výsledku pramení, v porovnání s lasso regresí, do její lepší predikční schopnosti i do větší kontroly koeficientů při výběru proměnných.