Utjecaj užeg i šireg obrazovnog okruženja na primjenu umjetne inteligencije u obrazovanju

3.2. Pravni, društveni i tehnološki uvjeti

Primjena umjetne inteligencije u visokom obrazovanju odvija se u okviru pravnih, društvenih i tehnoloških činitelja koji oblikuju način i tempo njezine integracije u nastavni proces. Ovi činitelji zajedno određuju razinu sigurnosti, etičnosti i prihvaćenosti tehnologije u visokoškolskom obrazovnom okruženju:

• EU AI Act – Zakon Europske unije koji regulira uporabu umjetne inteligencije, posebno onih sustava koji se smatraju visokorizičnima u obrazovanju, poput automatskog ocjenjivanja i personaliziranih preporuka za učenje. Uvodi obveze transparentnosti, ljudskog nadzora i zaštite podataka, čime osigurava odgovornu primjenu umjetne inteligencije u obrazovnom kontekstu.
  Primjer: Sveučilišta koja koriste alate umjetne inteligencije za automatsko vrednovanje moraju jasno informirati studente o načinu rada sustava i omogućiti ljudsku provjeru i korekciju rezultata. Iako takve mjere mogu usporiti implementaciju, one povećavaju povjerenje i osiguravaju pravednost postupka ocjenjivanja.

• GDPR – Uredba o zaštiti osobnih podataka obvezuje institucije da svi alati umjetne inteligencije budu u skladu s načelima privatnosti i sigurnosti. To podrazumijeva enkripciju podataka, minimalizaciju prikupljenih informacija i jasno definirane politike pristupa.
  Primjer: Kod primjene alata za analitiku učenja, institucija mora osigurati da se osobni podaci studenata koriste isključivo u obrazovne svrhe, uz njihovu prethodnu suglasnost i uz stroge mjere zaštite.

• Etika i odgovornost – Ključno je da primjena umjetne inteligencije u obrazovanju bude pravedna, transparentna i nenametljiva. Sustavi moraju poštovati ljudsko dostojanstvo, izbjegavati pristranosti i omogućiti razumljive odluke.
  Primjer: Prije implementacije sustava za preporuku obrazovnih sadržaja, potrebno je provesti evaluaciju algoritma kako bi se osiguralo da ne favorizira pojedine skupine studenata na temelju sociodemografskih obilježja.

• Tehnološki razvoj – Brz napredak tehnologija umjetne inteligencije zahtijeva stalno praćenje novih rješenja i procjenu njihove pedagoške vrijednosti. Kontinuirana edukacija nastavnika i tehnička podrška postaju ključni za održivu primjenu.
  Primjer: Uvođenje novog sustava za generiranje povratnih informacija zahtijeva da nastavnici budu educirani o njegovim mogućnostima i ograničenjima, kako bi znali interpretirati i primjenjivati rezultate.

• Društvena percepcija – Stavovi nastavnika i studenata mogu značajno utjecati na tempo i način implementacije umjetne inteligencije. Skepticizam, strah od zamjene ljudske uloge ili nepovjerenje u tehnologiju mogu usporiti prihvaćanje, dok otvorenost i povjerenje potiču inovacije.
  Primjer: Ako institucija transparentno komunicira svrhu i način rada UI alata i uključuje nastavnike i studente u proces odlučivanja, povećava se razina povjerenja i spremnost na korištenje tehnologije u obrazovanju.

Primjeri:

EU AI Act – Zakon uvodi obvezu da alati umjetne inteligencije koji se koriste u obrazovanju, poput sustava za automatsko ocjenjivanje, moraju biti transparentni i pod ljudskim nadzorom. To znači da institucije moraju osigurati jasnu informiranost polaznika i instruktora o načinu rada UI sustava i osigurati mogućnost intervencije ljudi, što može usporiti ili dodatno kompleksirati implementaciju, ali i povećati povjerenje u sustav.

GDPR – Zaštita osobnih podataka polaznika i instruktora zahtijeva da svi UI alati budu usklađeni s propisima o privatnosti, što može uključivati enkripciju podataka, minimalizaciju prikupljenih podataka i jasno definirane politike pristupa informacijama. To može zahtijevati dodatne tehničke i organizacijske prilagodbe kod implementacije.

Etika i odgovornost – Institucije moraju osigurati da primjena UI ne narušava prava polaznika, da sustavi ne diskriminiraju i da su odluke razumljive i pravedne. To znači da se često mora provesti dodatna evaluacija i prilagodba UI alata kako bi se poštovali ti etički standardi.

Tehnološki razvoj – Brzi razvoj UI tehnologija zahtijeva kontinuiranu edukaciju instruktora, kao i stalno praćenje novih alata i njihovog utjecaja na proces učenja. To može povećati troškove i potrebu za resursima, ali i osigurati suvremenost i učinkovitost nastave.

Društvena percepcija – Ako su polaznici i instruktori skeptični prema UI-ju, mogu manje koristiti ili čak odbacivati nove alate, što usporava integraciju. S druge strane, pozitivan stav i podrška korisnika olakšavaju prihvaćanje i potiču inovacije u nastavi.

Pitanja za promišljanje:

• Kako vaša institucija pristupa etičkim i pravnim pitanjima u primjeni umjetne inteligencije?

• Na koji način se može sustavno povećati povjerenje i odgovorna uporaba umjetne inteligencije među nastavnicima i studentima?