Implikacije korištenja umjetne inteligencije u obrazovnim sustavima

Primjena umjetne inteligencije u visokom obrazovanju donosi brojne koristi, ali i zahtijeva promišljanje važnih etičkih pitanja koja se odnose na prava polaznika, pravednost sustava, profesionalnu odgovornost nastavnika i zaštitu sigurnosti obrade podataka u digitalnom okruženju. 

U obrazovnom kontekstu, umjetna inteligencija posreduje u procesima koji su temeljno ljudski: razvoj znanja, kritičkog mišljenja, autonomije i akademske čestitosti. Stoga je nužno osigurati da tehnologija bude usklađena s vrijednostima i normama visokog obrazovanja te da se njezina uporaba temelji na visokim standardima kibernetičke sigurnosti.

Usklađenost s Europskim aktom o umjetnoj inteligenciji

Sustavi umjetne inteligencije koji utječu na ocjenjivanje, selekciju i napredovanje studenata mogu biti klasificirani kao sustavi visokog rizika, što obvezuje institucije na:

• dokazivu pravednost i kontrolu pristranosti
• transparentnost i mogućnost objašnjenja
• jasan ljudski nadzor nad odlukama
• osiguravanje sigurnog upravljanja i zaštite podataka.

Refleksivno pitanje

• Kako u vlastitoj obrazovnoj praksi možete osigurati da primjena umjetne inteligencije: bude pravedna i etički održiva, štiti privatnost i sigurnost studenata, ostane transparentna i razumljiva, podržava ljudsku prosudbu i znanja te čuva akademski integritet i profesionalne vrijednosti?