Vizualizace konvolučních neuronových sítí - Švejdová, Anna (2021)
Konvoluční neuronové sítě (CNN) jsou stále častěji používané pro klasifikaci obrazu i v rizikových aplikačních oblastech. Úspěšnost těchto modelů vychází mimo jiné z jejich komplexity, která je však zároveň činí netransparentními. Tato práce se proto věnuje vizualizaci konvolučních neuronových sítí a využívá ji pro jejich interpretaci. Navrhuje kritéria pro hodnocení vizualizací CNN, které vysvětlují klasifikaci konkrétních instancí. Tato kritéria vycházejí z vytvoření třídních prototypů metodou maximálně aktivace. Zároveň aplikuje metody Grad-CAM a SHAP na model Inception v3, tyto metody srovnává a nachází mezi nimi významné rozdíly. Tyto rozdíly mají za důsledek i to, že zatímco navržená kritéria pro hodnocení vizualizací za pomoci třídních protypů jsou dobře použitelná pro Grad-CAM, pro SHAP se nehodí. Nalezené rozdíly mezi aplikovanými metodami představují zajímavý problém pro další výzkum.