Znalostní grafy a vektorizace jako prostředky injekce znalostí do velkých jazykových modelů - Holota, Jan (2025)
Tato diplomová práce se zaměřuje na porovnání dvou přístupů pro úlohu Retrieval Augmented Generation, která pomáhá s využitím velkých jazykových modelů pro dotazování se na údaje faktografického typu, a to nejen v interních dokumentech. Jedním z přístupů je využití prosté vektorizace plného textu dokumentů. Tento přístup je v praxi běžný, ovšem dle výsledků této práce vykazuje některé nepříznivé vlastnosti, jako je například přílišná tendence halucinovat v důsledku nerelevantního poskytnutého kontextu. V těchto systémech je také obtížné provést disambiguaci pojmenovaných entit, o nichž se v otázce hovoří. Druhým přístupem je využití znalostních grafů. V této práci jsou znalostní grafy využívány jako znalostní báze, přičemž jsou modelu předkládány RDF triply. Tento přístup zajišťuje možnost implementace disambiguačního modulu, který dokáže fungovat jak v manuálním módu vyžadujícím spolupráci uživatele, tak i v automatickém módu. To zajišťuje vyšší důvěryhodnost celého systému, protože dokáže poměrně dobře rozpoznat potřebnou pojmenovanou entitu a odpovídat pouze na základě informací o této entitě (úspěšnost disambiguace 86,4 % v manuálním a 73,2 % v automatickém módu). V této práci byl systém založený na prosté vektorizaci plných textů implementován jednak pomocí SOTA frameworku Langchain, a dále pomocí autorovy vlastní implementace vytvořené na základě rešerše řešení naivního RAG. Systém na základě znalostních grafů byl navržen autorem a implementován ve dvou formách - automatická a manuální disambiguace. Pro srovnání obou systémů byl vytvořen dataset čítající 1090 otázek, které byly založeny na stejném informačním základu – datech z článků Wikipedie a ze znalostního grafu Wikidata. Bylo pečlivě zohledněno, aby se odpověď na každou otázku v obou zdrojích skute