Digital repository of Slovenian research organisations

Show document
A+ | A- | Help | SLO | ENG

Title:Can AI-assisted Essay Assessment Support Teachers? : A Cross-sectional Mixed-methods Research Conducted at the University of Montenegro
Authors:ID Ivanović, Igor (Author)
Files:.pdf PDF - Presentation file, download (2,66 MB)
MD5: B305036F19C46B8EE6AF0BA05F141A67
 
URL URL - Source URL, visit https://publ.zdjp.si/index.php/ashs/issue/view/2
 
Language:English
Typology:1.01 - Original Scientific Article
Organization:Logo IRRIS - Institute IRRIS for Research, Development and Strategies of Society, Culture and Environment
Abstract:In this study, we will try to answer the question if an AI language model can provide teachers with essay assessment solutions that are on a par with the solutions provided by experienced professors. We designed a study with the aim of comparing the essay assessment outputs of the AI language model and three of our colleagues working at the University of Montenegro. The main aim of this paper is to investigate if this AI language model can be a viable teachers’ assistance tool that provides immediate and meaningful feedback to teachers and students. Our hypothesis is, with some caveats, that the AI language model is more than a viable and useful tool, capable of providing meaningful and immediate feedback, greatly reducing the assessment time, and thus helping the teachers become more efficient and consistent. We will compare the results of 78 essays assessed by three teachers with the results provided by ChatGPT and see where the two sets of results converge or diverge in terms of their individual and overall scores.
Keywords:ChatGPT, automated grading, AI language models, essay assessment, essay feedback, assessment metrics, natural language processing
Publication status:Published
Publication version:Version of Record
Publication date:01.01.2023
Year of publishing:2023
Number of pages:571-590
Numbering:33, 3
PID:20.500.12556/DiRROS-30956 New window
UDC:009, 004.89:37.091.26
ISSN on article:1408-5348
DOI:10.19233/ASHS.2023.30 New window
COBISS.SI-ID:201637123 New window
Copyright:Imetniki avtorskih pravic na prispevkih so avtorji. CC BY-NC 4.0
Publication date in DiRROS:09.07.2026
Views:155
Downloads:94
Metadata:XML DC-XML DC-RDF
:
Copy citation
  
Share:Bookmark and Share


Hover the mouse pointer over a document title to show the abstract or click on the title to get all document metadata.

Record is a part of a journal

Title:Annales: Anali za istrske in mediteranske študije. Series Historia et Sociologia
Shortened title:Annales, Series Historia et Sociologia
Publisher:Zgodovinsko društvo za južno Primorsko - Koper; Inštitut IRRIS za raziskave, razvoj in strategije družbe, kulture in okolja
ISSN:1408-5348
COBISS.SI-ID:71952128 New window

Licences

License:CC BY-NC 4.0, Creative Commons Attribution-NonCommercial 4.0 International
Link:http://creativecommons.org/licenses/by-nc/4.0/
Description:A creative commons license that bans commercial use, but the users don’t have to license their derivative works on the same terms.
Licensing start date:01.01.2023
Applies to:VoR

Secondary language

Language:Italian
Title:Può la valutazione dei saggi con l’aiuto dell’intelligenza artificiale sostenere gli insegnanti? : Uno studio trasversale con l’uso di metodi misti condotto presso l’Università del Montenegro
Abstract:Attraverso questo studio, cercheremo di rispondere alla domanda se il modello linguistico di intelligenza artificiale che abbiamo utilizzato può fornire agli insegnanti una qualità di valutazione dei saggi paragonabile a quella fornita da insegnanti esperti. Abbiamo sviluppato uno studio che confronta i risultati della valutazione dei saggi generati tramite il modello linguistico AI con i risultati della valutazione di tre nostri colleghi che lavorano presso l’Università del Montenegro. L’obiettivo principale di questo studio è determinare se questo modello linguistico di intelligenza artificiale può diventare un utile strumento di supporto, in grado di fornire un feedback immediato e rilevante sia a insegnanti che a studenti. La nostra ipotesi, con alcune riserve, è che il modello linguistico di intelligenza artificiale sia uno strumento più che utile e fruibile, in grado di fornire feedback immediati e rilevanti, riducendo significativamente i tempi di valutazione e aiutando così gli insegnanti a essere più efficienti e coerenti. Confronteremo i risultati di 78 saggi valutati da tre insegnanti con i risultati ottenuti tramite ChatGPT e osserveremo dove i due gruppi di risultati coincidono o differiscono in termini di punteggi individuali e complessivi.
Keywords:ChatGPT, valutazione automatica, modelli linguistici di intelligenza artificiale, valutazione del saggio, feedback sul saggio, metriche di valutazione, elaborazione del linguaggio naturale, umetna inteligenca, ocenjevanje esejev, jezikovne tehnologije, ChatGPT


Back