Aplikácia pre prácu s privátnymi štruktúrovanými dátami za použitia LLM nástrojov - Lichvár, Peter (2024)
Táto diplomová práca sa zaoberá návrhom a implementáciou aplikácie využívajúcej veľké jazykové modely (LLM) na bezpečnú a efektívnu interakciu s privátnymi CSV súbormi. Cieľom je vytvoriť užívateľsky prívetivú aplikáciu, ktorá umožní nahrávať, šifrovať a komunikovať s dátami prostredníctvom prirodzeného jazyka, pričom zabezpečí plnú kontrolu nad vlastnými užívateľskými dátami. Teoretická časť práce vysvetľuje základné koncepty LLM. Ďalej predstavuje rôzne dostupné modely a nástroje takým spôsobom, aby bol zvolený práve ten najvhodnejší. Praktická časť práce sa zameriava na návrh, vývoj a následné testovanie aplikácie, ktorá poskytuje nástroje na štatistické, matematické a textové analýzy dát. Vytvorená aplikácia umožňuje bezpečné nahrávanie a šifrovanie CSV súborov a ich následnú analýzu pomocou integrovaného lokálneho LLM modelu Llama 3. Výsledky samotného testovania sú následne zhrnuté v prehľadnej tabuľkovej forme. Aplikácia je vzápätí komparovaná s komerčným riešením Lilybank AI za účelom identifikácie silných a slabých stránok oboch týchto konkurenčných riešení. Hodnotiacimi kritériami sú parametre ako cena, flexibilita, bezpečnosť, výkon alebo užívateľská prívetivosť. Práca tak demonštruje a testuje efektivitu použitia alternatívnej open-source LLM v porovnaní s komerčnými nástrojmi a riešeniami, s dôrazom na maximalizáciu bezpečnosti privátnych užívateľských dát.