20.500.12556/DiRROS-31586 Evaluating chatbot assistance in historical document analysis Vrednotenje pogovornega sistema kot pomočnika pri analizi zgodovinskih dokumentov The article explores the potential of PDFGear Copilot, a chatbot-based PDF editing tool, in assisting with the analysis of historical documents. We evaluated the chatbot's performance on a document relating to the Slovenian War of Independence. We included 25 factual and 5 interpretative questions to address its formal characteristics and content details, assess its capacity for in-depth interpretation and contextualized critical analysis, and evaluate the chatbot’s language use and robustness. The chatbot exhibited some ability to answer factual questions, even though its performance varied. It demonstrated proficiency in navigating document structure, named entity recognition, and extracting basic document information. However, performance declined significantly in tasks such as document type identification, content details, and tasks requiring deeper text analysis. For interpretative questions, the chatbot's performance was notably inadequate, failing to link cause-and-effect relationships and provide the depth and nuance required for historical inquiries. Članek preučuje potencial pogovornega sistema PDFGear Copilot kot pomočnika pri analizi zgodovinskih dokumentov. Učinkovitost pogovornega sistema smo preizkusili na dokumentu, povezanim s slovensko osamosvojitveno vojno. Zmožnost poglobljene interpretacije, kritične analize ter jezikovno robustnost pogovornega sistema smo presojali na podlagi njegovih odgovorov na 25 faktografskih in 5 interpretativnih vprašanj, povezanih z lastnostmi in vsebino dokumenta. Pri odgovarjanju na faktografska vprašanja je bil pogovorni sistem delno uspešen. Ni pa imel težav s prepoznavanjem strukture dokumenta, razpoznavanjem imenskih entitet in pridobivanjem osnovnih informacij o dokumentu. Slabše se je odrezal pri opredelitvi vrste dokumenta, navajanju vsebinskih podrobnosti in pri nalogah, ki zahtevajo poglobljeno analizo besedila. Pri interpretativnih vprašanjih je njegova uspešnost opazno upadla, saj ni bil kos vzročno-posledičnim odnosom ter ni izkazal potrebne poglobljenosti in natančnosti, potrebni za zgodovinopisne raziskave. chatbots historical document analyses Yugoslavia wars generative artificial intelligence large language models pogovorni sistemi analiza zgodovinskih dokumentov Jugoslavija vojne generativna umetna inteligenca veliki jezikovni modeli true false true Angleški jezik Slovenski jezik Neznano 2026-08-05 12:28:17 2026-08-05 12:28:17 2026-08-06 04:01:35 0000-00-00 00:00:00 2024 0 0 Nasl. z nasl. zaslona; Soavtorji: Janez Osojnik, Tomaž Onič, Tadej Todorović, Mladen Borovič; Opis vira z dne 16. 12. 2024; str. 53-83 št. 2 Letn. 7 2024 0000-00-00 Zaloznikova Objavljeno NiDoloceno 0000-00-00 0000-00-00 2024-01-01 004.8:930.25 2591-0884 10.54356/MA/2024/BIUB3010 219271683 https://www.pokarh-mb.si/storage/app/media/Moderna_arhivistika_2024_2/05_Hazemali_2024.pdf 1 604eec4e-90b8-11f1-af5a-001a4af901a5 https://dirros.openscience.si/Dokument.php?lang=slv&id=48979 RAZ_Hazemali_David_2024.pdf RAZ_Hazemali_David_2024.pdf 1 286E7A62A58FC84C08EA65D9D61AE515 d3f743fae165206d78518cbe78282f095bc5fd38847c50955af075c840fb974c 68e07b8e-90b8-11f1-af5a-001a4af901a5 https://dirros.openscience.si/Dokument.php?lang=slv&id=48980 Pokrajinski arhiv Maribor 0 0 0