Podatkovna pismenost i umjetna inteligencija - pristranosti i ograničenja

Pristranost (eng. bias) u podacima označava sustavnu pogrešku koja može dovesti do iskrivljenih ili netočnih rezultata analize, a time i do nepravednih odluka u obrazovanju. Nastaje kada određene skupine studenata, obrasci ponašanja ili uvjeti nisu pravilno zastupljeni u podacima ili kada se u obradi primjenjuju modeli koji ne uzimaju u obzir specifičnosti okruženja učenja.

Pristranosti se mogu pojaviti u različitim fazama prikupljanja i obrade podataka, a najčešće se razvrstavaju u nekoliko glavnih skupina.

• Pristranost uzorka – nastaje kada sustav umjetne inteligencije prikuplja podatke koji ne predstavljaju stvarnu populaciju.
  

  Primjer: Ako sustav umjetne inteligencije koristi podatke samo o studentima tehničkih fakulteta, njegovi modeli učenja ne mogu se točno primijeniti na studente drugih područja.

• Pristranost mjerenja – javlja se kada umjetna inteligencija netočno bilježi ili interpretira podatke.
  

  Primjer: Ako sustav prati samo vrijeme provedeno u e-učenju, bez razlikovanja aktivnog i pasivnog sudjelovanja, rezultati o angažiranosti studenata mogu biti pogrešni.

• Pristranost algoritma – pojavljuje se kada je umjetna inteligencija trenirana na pristranim podacima pa reproducira postojeće nejednakosti.
  

  Primjer: Algoritam koji preporučuje sadržaje može davati prednost studentima s boljim prethodnim rezultatima.

• Pristranost potvrde – odnosi se na tendenciju sustava umjetne inteligencije (ili njegovih korisnika) da tumače podatke tako da potvrđuju postojeće pretpostavke.
  

  Primjer: Ako model umjetne inteligencije uči da je brzina rješavanja zadataka pokazatelj znanja, može potvrđivati pogrešnu pretpostavku da su brži studenti uspješniji, iako brzina ne znači nužno bolje razumijevanje.

Razumijevanje različitih vrsta pristranosti nužno je za odgovornu primjenu umjetne inteligencije u obrazovanju. Samo njihovim prepoznavanjem, analizom i ublažavanjem moguće je osigurati pravedne, objektivne i pouzdane rezultate.