Implikacije korištenja umjetne inteligencije u obrazovnim sustavima

1. Uvod

Obrazovanje se nalazi u razdoblju intenzivne digitalne transformacije, a umjetna inteligencija (UI) postaje jedan od ključnih činitelja te promjene. Sustavi umjetne inteligencije već aktivno doprinose analitici učenja, individualizaciji nastavnih aktivnosti, automatizaciji administrativnih procesa i razvoju novih oblika interakcije između nastavnika i polaznika. U tom se kontekstu umjetna inteligencija ne promatra samo kao tehnološki alat, nego kao strateški resurs koji može unaprijediti kvalitetu poučavanja, dostupnost znanja i opću učinkovitost visokih učilišta.

Poticanje angažmana polaznika, pravovremena i personalizirana povratna informacija, prepoznavanje rizika od neuspjeha i podrška specifičnim potrebama studenata postaju realna i pristupačna mogućnost zahvaljujući naprednim algoritmima i modelima umjetne inteligencije. Posebno je vidljiv recentni porast uporabe generativnih alata temeljenih na umjetnoj inteligenciji u akademskom učenju, što dodatno naglašava potrebu za kritičkim promišljanjem njihove uloge i posljedica.

Europski akt o umjetnoj inteligenciji (EU AI Act) prepoznaje obrazovanje kao područje u kojem sustavi umjetne inteligencije imaju snažan učinak na prava pojedinaca i u određenim slučajevima klasificira takve sustave kao visokog rizika, posebice kada pridonose odlučivanju o pristupu studiju ili vrednovanju uspješnosti.

Razumijevanje šireg konteksta primjene umjetne inteligencije u obrazovanju preduvjet je za njezinu učinkovitu i etički utemeljenu integraciju. Stoga se u nastavku razmatraju ključni aspekti primjene umjetne inteligencije u obrazovanju: etički, sigurnosni, tehnički i zakonodavni.

2. Etičke implikacije primjene umjetne inteligencije u obrazovanju

Primjena umjetne inteligencije u visokom obrazovanju donosi brojne koristi, ali i zahtijeva promišljanje važnih etičkih pitanja koja se odnose na prava polaznika, pravednost sustava, profesionalnu odgovornost nastavnika i zaštitu sigurnosti obrade podataka u digitalnom okruženju. 

U obrazovnom kontekstu, umjetna inteligencija posreduje u procesima koji su temeljno ljudski: razvoj znanja, kritičkog mišljenja, autonomije i akademske čestitosti. Stoga je nužno osigurati da tehnologija bude usklađena s vrijednostima i normama visokog obrazovanja te da se njezina uporaba temelji na visokim standardima kibernetičke sigurnosti.

Usklađenost s Europskim aktom o umjetnoj inteligenciji

Sustavi umjetne inteligencije koji utječu na ocjenjivanje, selekciju i napredovanje studenata mogu biti klasificirani kao sustavi visokog rizika, što obvezuje institucije na:

• dokazivu pravednost i kontrolu pristranosti
• transparentnost i mogućnost objašnjenja
• jasan ljudski nadzor nad odlukama
• osiguravanje sigurnog upravljanja i zaštite podataka.

Refleksivno pitanje

• Kako u vlastitoj obrazovnoj praksi možete osigurati da primjena umjetne inteligencije: bude pravedna i etički održiva, štiti privatnost i sigurnost studenata, ostane transparentna i razumljiva, podržava ljudsku prosudbu i znanja te čuva akademski integritet i profesionalne vrijednosti?

3. Sigurnosni aspekti primjene umjetne inteligencije u visokom obrazovanju

Sustavi umjetne inteligencije u obrazovanju obrađuju širok spektar osobnih i profesionalnih podataka. Posebno osjetljivi su podatci o studentima, uključujući njihove akademske rezultate, navike učenja i obrasce ponašanja u digitalnom okruženju. Pored toga, umjetna inteligencija obrađuje i podatke o nastavnicima, administrativnom osoblju, istraživačima i vanjskim suradnicima, a svaki neovlašteni pristup tim podatcima može narušiti privatnost, profesionalni integritet i povjerenje u instituciju.

Usklađenost s Europskim aktom o umjetnoj inteligenciji i GDPR-om

Prema Europskom aktu o umjetnoj inteligenciji, sustavi koji utječu na pristup obrazovanju ili vrednovanje studenata svrstavaju se među visokorizične, što institucijama nameće obveze:

• aktivno upravljanje sigurnosnim rizicima
• osiguravanje kibernetičke otpornosti sustava
• dokumentiranje sigurnosnih mjera i provjera
• ljudski nadzor u ključnim odlukama
• potpuna usklađenost s GDPR-om u zaštiti osobnih podataka.

Cilj je očuvati prava, sigurnost i dobrobit svih dionika akademske zajednice.

Refleksivno pitanje

• Koje se sigurnosne mjere i postupci u vašem obrazovnom okruženju već provode i kako biste ih unaprijedili kako bi primjena umjetne inteligencije ostala sigurna i pouzdana?

4. Tehnički aspekti

Uspješna primjena umjetne inteligencije u visokoškolskom obrazovanju zahtijeva odgovarajuću tehničku infrastrukturu, kvalitetne podatke i sustavnu tehničku podršku korisnicima. Tehnički uvjeti izravno utječu na pouzdanost, sigurnost i pedagošku vrijednost sustava umjetne inteligencije.

Usklađenost s Europskim aktom o umjetnoj inteligenciji

EU AI Act naglašava da sustavi umjetne inteligencije u obrazovanju moraju biti: robusni i tehnološki pouzdani, prilagođeni sigurnosnim i tehničkim zahtjevima i podložni ljudskom nadzoru i evaluaciji.

Institucije su odgovorne i trebaju osigurati da tehnički uvjeti ne ugrožavaju akademske ishode niti prava svih obrazovnih dionika.

Refleksivno pitanje:

• Koje tehničke korake bi vaša institucija trebala poduzeti kako bi povećala pouzdanost i pedagošku učinkovitost sustava umjetne inteligencije u radu sa studentima?

5. Umjetna inteligencija i zakonodavni okvir u visokom obrazovanju: Što donosi Europski akt o umjetnoj inteligenciji (EU UI akt)?

Europski akt o umjetnoj inteligenciji  (EU UI akt) prvi je sveobuhvatni pravni akt Europske unije koji uređuje sustave umjetne inteligencije u okviru zajedničkog tržišta. 
Kao primjer, za visoko obrazovanje to znači da instituti i fakulteti koji uvode alate i sustave umjetne inteligencije moraju uzeti u obzir novu razinu odgovornosti: sustavi koji mogu utjecati na rezultate studenata, njihovu selekciju ili napredovanje, mogu biti klasificirani kao „visokorizični”. Naime, EU UI akt uvodi kategorizaciju sustava umjetne inteligencije prema potencijalnom riziku: od minimalnog prema visokorizičnom i neprihvatljivom. 
Na primjer, sustavi koji automatski selektiraju kandidate za upis ili donose ocjene mogu potpasti pod kategoriju visokog rizika i moraju ispuniti specifične zahtjeve. 

Kao primjer, visokoškolske institucije imaju pred sobom nekoliko ključnih koraka, trebaju:

• obaviti procjenu rizika i testiranje alata umjetne inteligencije prije njihove pune primjene
• osigurati da podaci koji pokreću sustav zadovoljavaju kriterije kvalitete, relevantnosti i početne reprezentativnosti
• osigurati transparentnost: polaznici i nastavnici moraju biti jasno informirani o ulozi i ograničenjima sustava
• uvesti ljudski nadzor nad rezultatima koji mogu utjecati na akademski status studenata
• osigurati zaštitu osobnih podataka u skladu s Općom uredbom o zaštiti podataka (GDPR) i zaštitu od neovlaštenog otkrivanja.

Prava polaznika i dionika u obrazovnom procesu

Studenti i ostali korisnici sustava imaju pravo na:

• jasnu i pravovremenu informaciju o tome kako se koristi umjetna inteligencija u njihovom obrazovanju
• razumijevanje temelja na kojima sustav donosi procjene ili preporuke
• mogućnost prigovora i ljudske revizije odluka koje su posredovane umjetnom inteligencijom.

Ako visokoškolska institucija koristi sustav umjetne inteligencije za automatsko ocjenjivanje studentskih radova, kako bi se uskladila s EU AI aktom mora:

• imati dokumentiranu pouzdanost sustava, uključujući testiranja na raznolikim podatcima
• informirati studente o procesu ocjenjivanja, algoritmu i mogućnosti prigovora
• osigurati ljudski nadzor nad konačnim ocjenama kako se ne bi dogodile nepravedne ili netransparentne odluke.

Implementacija zakonodavnog okvira (EU UI akt) i vremenskog okvira

EU UI Akt je stupio na snagu 1. kolovoza 2024. godine, s provođenjem pojedinih odredbi u fazama. Visokoškolske institucije se stoga moraju pripremiti za postupnu provedbu tog zakonodavnog okvira i prilagodbu svojih sustava i praksi.

Primjena umjetne inteligencije u visokom obrazovanju može biti snažan alat za unaprjeđenje učenja i administracije, ali njezin uspjeh ovisi o odgovornosti svih dionika. U skladu s EU UI aktom visokoškolske institucije moraju uspostaviti standarde koji garantiraju sigurnu, transparentnu i pravednu primjenu umjetne inteligencije, uz ljudsku dogovornost.

Refleksivna pitanja:

• Koje alate umjetne inteligencije već koristite u svojoj instituciji i na koji način ih planirate uskladiti s EU UI aktom?
• Kako biste organizirali proceduru ljudske revizije odluka donesene pomoću umjetne inteligencije?
• Koji je prvi korak koji biste predložili kako biste unaprijedili transparentnost kod uporabe umjetne inteligencije u nastavi?

6. Literatura:

• Veale, M., & Binns, R. (2017). Fairness and accountability design needs for algorithmic support in high-stakes public sector decision-making. Proceedings of the 2017 ACM Conference on Computer Supported Cooperative Work and Social Computing, 388–398.
  
  • Opis: Istražuje dizajn sustava UI-ja osiguravaju pravičnost i odgovornost u donošenju važnih odluka, uključujući obrazovne procese.
    
    
• Mittelstadt, B. D. (2019). Principles alone cannot guarantee ethical AI. Nature Machine Intelligence, 1(11), 501–507.
  
  • Opis: Naglašava da su etički principi nedovoljni bez zakonskih okvira za odgovornu primjenu UI-ja, što je ključno za obrazovne sustave.
    
    
• Binns, R. (2017). On the fairness of machine learning in education. Communications of the ACM, 63(10), 34–37.
  
  • Opis: Razmatra izazove pravičnosti u primjeni strojnog učenja u obrazovanju, naglašavajući važnost transparentnosti i ljudske kontrole.
    
    
• Kaminski, M. E. (2018). The right to explanation, explained. Berkeley Technology Law Journal, 34(1), 189–218.
  
  • Opis: Pojašnjava pravo korisnika da razumiju odluke sustava UI-ja, što je važno za transparentnost u obrazovanju.
    
    
• European Commission. (2024). Artificial Intelligence Act. 
  
  • Opis: Službeni zakon EU-a koji regulira razvoj i korištenje UI-ja, s naglaskom na sigurnost, transparentnost i odgovornost, uključujući obrazovne sustave.
    
    
• Jodi, K. H. M., Zulfadli, M., Azizan, A. S. M., Che Husain, F., & Haridi, N. H. M. (2025). Ethical framework for artificial intelligence in professional practices of higher education lecturers: A systematic review. International Journal of Education, Psychology and Counseling, 10(57), 194–212.
  
  • Opis: Ovaj sustavni pregled analizira etičke okvire za korištenje umjetne inteligencije u profesionalnoj praksi predavača na visokoškolskim ustanovama, naglašavajući izazove i preporuke za etičku primjenu.