Kriteriji za odabir alata i sustava umjetne inteligencije za obrazovne potrebe

2.5. Etičnost i sigurnost

Svaki alat i sustav umjetne inteligencije koji se primjenjuje u obrazovanju, mora poštivati načela zaštite privatnosti i transparentnog djelovanja, i pritom izbjegavati pristranost u rezultatima koje generira. Učenici i studenti imaju pravo na sigurnu i etički odgovornu primjenu tehnologije, što uključuje zaštitu njihovih osobnih podataka, anonimnost tamo gdje je moguće, i jasnu komunikaciju o tome kako se podaci prikupljaju, obrađuju i koriste u svrhu poboljšanja učenja. Nepoštivanje ovih pravila može dovesti do narušavanja povjerenja u obrazovni sustav, kao i do situacija u kojima tehnologija posredno stvara nejednakost među polaznicima.

Primjer:

1. Turnitin, sustav za provjeru originalnosti studentskih radova, koristi metode umjetne inteligencije za detekciju plagijata. U njegovu radu naglasak je stavljen na čuvanje povjerljivosti i sigurnosti podataka. Identitet polaznika ostaje zaštićen, a cjelokupna obrada podataka provodi se u skladu s važećim zakonodavnim okvirom o zaštiti osobnih podataka, poput Opće uredbe o zaštiti podataka (GDPR) u Europi. Dodatno, transparentnost sustava podrazumijeva da studenti i nastavnici imaju uvid u način rada algoritma i rezultate analize, što smanjuje rizik od nepravde i doprinosi očuvanju povjerenja u postupak vrednovanja.
2. Khan Academy koristi umjetnu inteligenciju u svom sustavu personaliziranog učenja, uz jasno definirane procedure zaštite privatnosti korisnika. Podaci se obrađuju na način koji ne omogućuje identifikaciju pojedinaca i ne dijele se bez izričitog pristanka. Sustav je osmišljen tako da umanji rizik od pristranosti u preporukama, čime se svim obrazovnim dionicima osiguravaju jednake mogućnosti pristupa i napredovanja u učenju, bez obzira na njihove početne uvjete ili posebnosti.

   Posebna pozornost posvećuje se odgovornom korištenju tehnologije kako bi se spriječilo stvaranje ili produbljivanje postojećih razlika u obrazovnim ishodima među različitim skupinama polaznika. Time se pridonosi stvaranju pravednijeg i inkluzivnijeg obrazovnog okruženja.

   Ovakav pristup jača povjerenje svih obrazovnih dionika u primjenu umjetne inteligencije u obrazovanju, budući da visokoškolske institucije, nastavnici i studenti mogu biti sigurni kako tehnologija djeluje u njihovom interesu i predstavlja pedagoški odgovoran alat koji unapređuje procese poučavanja i učenja.