Implikacije korištenja umjetne inteligencije u obrazovnim sustavima

Europski akt o umjetnoj inteligenciji  (EU UI akt) prvi je sveobuhvatni pravni akt Europske unije koji uređuje sustave umjetne inteligencije u okviru zajedničkog tržišta. 
Kao primjer, za visoko obrazovanje to znači da instituti i fakulteti koji uvode alate i sustave umjetne inteligencije moraju uzeti u obzir novu razinu odgovornosti: sustavi koji mogu utjecati na rezultate studenata, njihovu selekciju ili napredovanje, mogu biti klasificirani kao „visokorizični”. Naime, EU UI akt uvodi kategorizaciju sustava umjetne inteligencije prema potencijalnom riziku: od minimalnog prema visokorizičnom i neprihvatljivom. 
Na primjer, sustavi koji automatski selektiraju kandidate za upis ili donose ocjene mogu potpasti pod kategoriju visokog rizika i moraju ispuniti specifične zahtjeve. 

Kao primjer, visokoškolske institucije imaju pred sobom nekoliko ključnih koraka, trebaju:

• obaviti procjenu rizika i testiranje alata umjetne inteligencije prije njihove pune primjene
• osigurati da podaci koji pokreću sustav zadovoljavaju kriterije kvalitete, relevantnosti i početne reprezentativnosti
• osigurati transparentnost: polaznici i nastavnici moraju biti jasno informirani o ulozi i ograničenjima sustava
• uvesti ljudski nadzor nad rezultatima koji mogu utjecati na akademski status studenata
• osigurati zaštitu osobnih podataka u skladu s Općom uredbom o zaštiti podataka (GDPR) i zaštitu od neovlaštenog otkrivanja.

Prava polaznika i dionika u obrazovnom procesu

Studenti i ostali korisnici sustava imaju pravo na:

• jasnu i pravovremenu informaciju o tome kako se koristi umjetna inteligencija u njihovom obrazovanju
• razumijevanje temelja na kojima sustav donosi procjene ili preporuke
• mogućnost prigovora i ljudske revizije odluka koje su posredovane umjetnom inteligencijom.

Ako visokoškolska institucija koristi sustav umjetne inteligencije za automatsko ocjenjivanje studentskih radova, kako bi se uskladila s EU AI aktom mora:

• imati dokumentiranu pouzdanost sustava, uključujući testiranja na raznolikim podatcima
• informirati studente o procesu ocjenjivanja, algoritmu i mogućnosti prigovora
• osigurati ljudski nadzor nad konačnim ocjenama kako se ne bi dogodile nepravedne ili netransparentne odluke.

Implementacija zakonodavnog okvira (EU UI akt) i vremenskog okvira

EU UI Akt je stupio na snagu 1. kolovoza 2024. godine, s provođenjem pojedinih odredbi u fazama. Visokoškolske institucije se stoga moraju pripremiti za postupnu provedbu tog zakonodavnog okvira i prilagodbu svojih sustava i praksi.

Primjena umjetne inteligencije u visokom obrazovanju može biti snažan alat za unaprjeđenje učenja i administracije, ali njezin uspjeh ovisi o odgovornosti svih dionika. U skladu s EU UI aktom visokoškolske institucije moraju uspostaviti standarde koji garantiraju sigurnu, transparentnu i pravednu primjenu umjetne inteligencije, uz ljudsku dogovornost.

Refleksivna pitanja:

• Koje alate umjetne inteligencije već koristite u svojoj instituciji i na koji način ih planirate uskladiti s EU UI aktom?
• Kako biste organizirali proceduru ljudske revizije odluka donesene pomoću umjetne inteligencije?
• Koji je prvi korak koji biste predložili kako biste unaprijedili transparentnost kod uporabe umjetne inteligencije u nastavi?