Kriteriji za odabir alata i sustava umjetne inteligencije za obrazovne potrebe

Kvalitetan alat i sustav umjetne inteligencije mora biti pouzdan i točan. Ako često daju pogrešne informacije ili netočne rezultate, mogu zbuniti ili obeshrabriti polaznike i negativno utjecati na njihovo razumijevanje gradiva i povjerenje u tehnologiju. Važno je naglasiti da svaka pogreška u obrazovnom kontekstu ima i pedagoške posljedice, jer se može odraziti na motivaciju studenata i njihov osjećaj uspješnosti.

Primjeri:

1. Sustav za automatsko ocjenjivanje eseja, poput Gradescopea, koristi umjetnu inteligenciju za analizu radova polaznika i dodjelu ocjena. Ako takav sustav daje netočne ili nepouzdane procjene — primjerice zbog loše definirane metrike, neprikladnog skupa podataka za treniranje ili neadekvatnog upravljanja rubrikom — polaznici mogu biti zbunjeni ili obeshrabreni jer će im se činiti da su ocjene nepravedne. Stoga je važno da model umjetne inteligencije bude temeljito treniran i da se redovito provjeravaju njegovi rezultati.
2. Alat za automatsku provjeru originalnosti, kao primjerice Turnitin, koristi umjetnu inteligenciju za detekciju plagijata u studentskim radovima. Ako sustav često generira lažno pozitivne ili lažno negativne rezultate, primjerice nepravedno optužuje studenta jer je stil pisanja sličan drugome ili pak propusti stvarni slučaj plagijata, povjerenje u proces i osjećaj pravičnosti mogu biti značajno narušeni. Zbog toga je takvim alatima potrebno osigurati visoku razinu preciznosti, redovitu reviziju i jasnu komunikaciju o mogućim ograničenjima sustava.