Moderácia veľkých jazykových modelov : Výzvy, súčasné prístupy a budúce obmedzenia - Tomko, Erik (2025)
Bakalárska práca empiricky hodnotí, do akej miery dokážu súčasné bezplatné veľké jazykové modely (LLM) odfiltrovať škodlivý obsah a v ktorých situáciách ich moderácia zlyháva. Cieľom bolo posúdiť schopnosť týchto modelov zabrániť generovaniu problematických odpovedí z perspektívy neskúseného používateľa a súčasne preskúmať teoretické výzvy, metódy a limity ich moderácie. Práca kombinovala teoretickú syntézu poznatkov o architektúre LLM, rizikách generatívnych systémov, taxonómii škodlivého obsahu a viacvrstvových moderačných postupoch s praktickým experimentom. V praktickej časti bolo testovaných päť bezplatných webových LLM (ChatGPT‑4o, Claude 3.7 Sonnet, Gemini 2.0 Flash, Grok 3, DeepSeek R1) pomocou pätnástich cielených promptov v slovenskom jazyku, rozdelených do piatich rizikových kategórií. Výsledky ukázali, že hoci dve tretiny odpovedí dosiahlo etické odmietnutie, približne tretina výstupov obsahovala čiastočné alebo detailné návody, pričom najväčšie zlyhania sa prejavili pri nepriamych hypotetických otázkach. Práca potvrdila hypotézu, že úplná moderácia LLM nie je v súčasnosti realistická, a identifikovala konkrétne slabé miesta testovaných modelov. Prínosom práce je ucelený prehľad moderačných metód, otvorene publikovaná metodika testovania a empirické dôkazy o limitoch súčasných moderačných systémov.