Podatkovna pismenost i umjetna inteligencija - pristranosti i ograničenja

U nastavku su prikazane najvažnije posljedice pristranosti u obrazovnoj primjeni umjetne inteligencije i njihovi mogući učinci na kvalitetu i pravednost obrazovnog procesa.

Primjeri situacija pristranosti i nepravednih ishoda u obrazovanju

Primjer 1 – Analiza pisanih zadataka

Na primjer, studenti koji pišu kreativnije, koriste nestandardne izraze ili odstupaju od predviđenog obrasca, mogu biti ocijenjeni lošije, iako je sadržaj njihova rada kvalitetan i relevantan. Na taj način algoritam ne prepoznaje složenost i raznolikost akademskog izražavanja, što može rezultirati nepravednim ishodima i može demotivirati studente.

Primjer 2 – Praćenje sudjelovanja u online nastavi

Na primjer, student koji pažljivo proučava materijale izvan platforme, bilježi vlastite bilješke ili surađuje s kolegama putem drugih digitalnih kanala može biti pogrešno označen „neaktivnim“. Ovakva pristranost u mjerenju angažiranosti dovodi do netočnih zaključaka o stvarnoj aktivnosti studenata i može utjecati na odluke o planiranju i prilagodbi nastave ili na procjenu uspješnosti studenata.

Primjer 3

Situacije u kojima sustav nesvjesno favorizira studente s boljim tehničkim uvjetima, stabilnim pristupom internetu ili višom razinom digitalnih vještina, dok se studenti koji se suočavaju s tehničkim ograničenjima ili različitim načinima učenja mogu pogrešno ocijeniti manje angažiranima.

Primjer 4

Ako algoritam daje preporuke na temelju prethodnih rezultata, može se dogoditi da studenti s nižim početnim uspjehom dobivaju jednostavnije zadatke i tako imaju manje prilika za napredak. Time se postojeće razlike ne smanjuju, nego se dodatno produbljuju.

Primjer 5

S pravnog aspekta, rizici su povezani sa zaštitom osobnih podataka i privatnošću studenata. Neodgovorno prikupljanje, pohrana ili obrada podataka mogu biti u suprotnosti s Općom uredbom o zaštiti podataka (GDPR). Posebnu pozornost potrebno je posvetiti informiranom pristanku, ograničenju svrhe obrade i minimalizaciji količine prikupljenih podataka. Na primjer, ako se podaci o ponašanju studenata u digitalnom okruženju koriste za automatsko vrednovanje bez njihova pristanka ili mogućnosti uvida u način odlučivanja, time se krši načelo transparentnosti i ugrožava pravo studenata na pravedan tretman. Iz navedenog razloga važno je da visokoškolske ustanove razviju jasne politike upravljanja podacima, osiguraju redovitu edukaciju o etičkoj primjeni umjetne inteligencije i uvedu stalni ljudski nadzor nad algoritamskim sustavima. Samo tako moguće je očuvati pravednost, transparentnost i odgovornost u obrazovnom procesu.

Ovi primjeri pokazuju kako pristranosti u sustavima umjetne inteligencije mogu imati stvarne i mjerljive posljedice na obrazovni proces. Stoga je ključno da nastavnici i obrazovni stručnjaci razviju sposobnost kritičke analize rezultata koje generiraju takvi sustavi, razumiju njihova ograničenja i osiguraju da se tehnologija koristi na način koji potiče pravednost, transparentnost i inkluzivnost u obrazovanju.