Podatkovna pismenost i umjetna inteligencija - pristranosti i ograničenja

1. Uvod

Među najvažnije izazove odgovorne primjene umjetne inteligencije u visokom obrazovanju ubraja se pristranost u podacima koja može nastati iz različitih razloga, na primjer, zbog neadekvatnih uzoraka, pogreškog prikupljanja i mjerenja, konstrukcijskih ograničenja algoritama ili subjektivnih interpretacija koje se prenose podacima. Takve pristranosti mogu dovesti do nepravednih obrazovnih ishoda za studente, narušiti povjerenje u tehnologije umjetne inteligencije i smanjiti njihovu učinkovitost u nastavnim i evaluacijskim procesima.

Sustavi umjetne inteligencije, iako napredni, ne mogu samostalno razumjeti složenost obrazovnih okruženja. Oni ovise o kvaliteti i reprezentativnosti podataka kojima raspolažu, zbog čega su ljudski nadzor i kritička analiza rezultata uvijek nužni. Nastavnici, istraživači, IT stručnjaci i drugi obrazovni dionici trebali bi zajednički procjenjivati izvore podataka, načine njihove interpretacije i etičke implikacije njihove uporabe.

U nastavku su opisane glavne vrste pristranosti u podacima, njihovim mogućim posljedicama u obrazovanju, ograničenjima sustava umjetne inteligencije i preporukama za etičnu i odgovornu primjenu podataka u praksi.

2. Što su pristranosti u podacima?

Pristranost (eng. bias) u podacima označava sustavnu pogrešku koja može dovesti do iskrivljenih ili netočnih rezultata analize, a time i do nepravednih odluka u obrazovanju. Nastaje kada određene skupine studenata, obrasci ponašanja ili uvjeti nisu pravilno zastupljeni u podacima ili kada se u obradi primjenjuju modeli koji ne uzimaju u obzir specifičnosti okruženja učenja.

Pristranosti se mogu pojaviti u različitim fazama prikupljanja i obrade podataka, a najčešće se razvrstavaju u nekoliko glavnih skupina.

• Pristranost uzorka – nastaje kada sustav umjetne inteligencije prikuplja podatke koji ne predstavljaju stvarnu populaciju.
  

  Primjer: Ako sustav umjetne inteligencije koristi podatke samo o studentima tehničkih fakulteta, njegovi modeli učenja ne mogu se točno primijeniti na studente drugih područja.

• Pristranost mjerenja – javlja se kada umjetna inteligencija netočno bilježi ili interpretira podatke.
  

  Primjer: Ako sustav prati samo vrijeme provedeno u e-učenju, bez razlikovanja aktivnog i pasivnog sudjelovanja, rezultati o angažiranosti studenata mogu biti pogrešni.

• Pristranost algoritma – pojavljuje se kada je umjetna inteligencija trenirana na pristranim podacima pa reproducira postojeće nejednakosti.
  

  Primjer: Algoritam koji preporučuje sadržaje može davati prednost studentima s boljim prethodnim rezultatima.

• Pristranost potvrde – odnosi se na tendenciju sustava umjetne inteligencije (ili njegovih korisnika) da tumače podatke tako da potvrđuju postojeće pretpostavke.
  

  Primjer: Ako model umjetne inteligencije uči da je brzina rješavanja zadataka pokazatelj znanja, može potvrđivati pogrešnu pretpostavku da su brži studenti uspješniji, iako brzina ne znači nužno bolje razumijevanje.

Razumijevanje različitih vrsta pristranosti nužno je za odgovornu primjenu umjetne inteligencije u obrazovanju. Samo njihovim prepoznavanjem, analizom i ublažavanjem moguće je osigurati pravedne, objektivne i pouzdane rezultate.

3. Posljedice pristranosti u obrazovnoj primjeni umjetne inteligencije

U nastavku su prikazane najvažnije posljedice pristranosti u obrazovnoj primjeni umjetne inteligencije i njihovi mogući učinci na kvalitetu i pravednost obrazovnog procesa.

Primjeri situacija pristranosti i nepravednih ishoda u obrazovanju

Primjer 1 – Analiza pisanih zadataka

Na primjer, studenti koji pišu kreativnije, koriste nestandardne izraze ili odstupaju od predviđenog obrasca, mogu biti ocijenjeni lošije, iako je sadržaj njihova rada kvalitetan i relevantan. Na taj način algoritam ne prepoznaje složenost i raznolikost akademskog izražavanja, što može rezultirati nepravednim ishodima i može demotivirati studente.

Primjer 2 – Praćenje sudjelovanja u online nastavi

Na primjer, student koji pažljivo proučava materijale izvan platforme, bilježi vlastite bilješke ili surađuje s kolegama putem drugih digitalnih kanala može biti pogrešno označen „neaktivnim“. Ovakva pristranost u mjerenju angažiranosti dovodi do netočnih zaključaka o stvarnoj aktivnosti studenata i može utjecati na odluke o planiranju i prilagodbi nastave ili na procjenu uspješnosti studenata.

Primjer 3

Situacije u kojima sustav nesvjesno favorizira studente s boljim tehničkim uvjetima, stabilnim pristupom internetu ili višom razinom digitalnih vještina, dok se studenti koji se suočavaju s tehničkim ograničenjima ili različitim načinima učenja mogu pogrešno ocijeniti manje angažiranima.

Primjer 4

Ako algoritam daje preporuke na temelju prethodnih rezultata, može se dogoditi da studenti s nižim početnim uspjehom dobivaju jednostavnije zadatke i tako imaju manje prilika za napredak. Time se postojeće razlike ne smanjuju, nego se dodatno produbljuju.

Primjer 5

S pravnog aspekta, rizici su povezani sa zaštitom osobnih podataka i privatnošću studenata. Neodgovorno prikupljanje, pohrana ili obrada podataka mogu biti u suprotnosti s Općom uredbom o zaštiti podataka (GDPR). Posebnu pozornost potrebno je posvetiti informiranom pristanku, ograničenju svrhe obrade i minimalizaciji količine prikupljenih podataka. Na primjer, ako se podaci o ponašanju studenata u digitalnom okruženju koriste za automatsko vrednovanje bez njihova pristanka ili mogućnosti uvida u način odlučivanja, time se krši načelo transparentnosti i ugrožava pravo studenata na pravedan tretman. Iz navedenog razloga važno je da visokoškolske ustanove razviju jasne politike upravljanja podacima, osiguraju redovitu edukaciju o etičkoj primjeni umjetne inteligencije i uvedu stalni ljudski nadzor nad algoritamskim sustavima. Samo tako moguće je očuvati pravednost, transparentnost i odgovornost u obrazovnom procesu.

Ovi primjeri pokazuju kako pristranosti u sustavima umjetne inteligencije mogu imati stvarne i mjerljive posljedice na obrazovni proces. Stoga je ključno da nastavnici i obrazovni stručnjaci razviju sposobnost kritičke analize rezultata koje generiraju takvi sustavi, razumiju njihova ograničenja i osiguraju da se tehnologija koristi na način koji potiče pravednost, transparentnost i inkluzivnost u obrazovanju.

4. Ograničenja primjene umjetne inteligencije u obrazovanju

Unatoč brojnim prednostima primjene sustava umjetne inteligencije u obrazovanju važno je razumjeti ograničenja takvih sustava kako bi se osigurala njihova odgovorna, pravedna i učinkovita primjena u obrazovnom kontekstu.

Ograničeno razumijevanje konteksta
Sustavi temeljeni na umjetnoj inteligenciji ne mogu u potpunosti obuhvatiti složenost obrazovnog procesa, odnosa između nastavnika i studenata ni individualne okolnosti učenja. Preporuke koje generiraju mogu biti tehnički točne, ali pedagoški neadekvatne ili previše općenite, jer ne prepoznaju motivaciju, emocionalne čimbenike i društvenu dinamiku učenja.

Ovisnost o kvaliteti podataka
Učinkovitost umjetne inteligencije u obrazovanju uvelike ovisi o kvaliteti, točnosti i reprezentativnosti podataka koji se koriste u analizi. Ako su podaci pristrani, zastarjeli ili nepotpuni, sustavi mogu proizvesti netočne interpretacije, nepravedne procjene angažiranosti ili neprimjerene preporuke za učenje. Takvi propusti mogu dovesti do pogrešnih odluka nastavnika i smanjiti povjerenje studenata u tehnologiju.

Potreba za ljudskim nadzorom
Ni najnapredniji sustavi umjetne inteligencije ne mogu samostalno donositi sve odluke u obrazovanju. Ljudski nadzor ključan je za tumačenje rezultata, provjeru valjanosti zaključaka i procjenu njihove pedagoške opravdanosti. Nastavnici i stručnjaci trebaju osigurati da algoritamske odluke budu u skladu s etičkim načelima, ciljevima kurikuluma i dobrobiti studenata.

Ograničena sposobnost prilagodbe
Iako umjetna inteligencija omogućuje personalizaciju sadržaja na temelju analize podataka, još uvijek ne može zamijeniti pedagoški uvid, empatiju i razumijevanje konteksta koje nastavnik donosi u proces poučavanja. Ljudska intervencija ostaje nužna za prilagodbu učenja stvarnim potrebama pojedinaca i skupina.

Etički i odgovorni razvoj
Uvođenje umjetne inteligencije u obrazovanje zahtijeva pažljivo razmatranje etičkih i pravnih aspekata — osobito u pogledu privatnosti, transparentnosti i jednakog pristupa. Samo odgovorno razvijeni i nadzirani sustavi mogu osigurati da tehnologija pridonosi pravednom, inkluzivnom i sigurnom obrazovnom okruženju.

5. Etičko korištenje podataka i zaštita privatnosti u primjeni umjetne inteligencije u obrazovanju

Budući da sustavi umjetne inteligencije prikupljaju, analiziraju i interpretiraju velike količine obrazovnih podataka, svaki korak u tom procesu mora biti utemeljen na odgovornosti, transparentnosti i poštivanju privatnosti studenata i nastavnika.

Pridržavanje načela transparentnosti
Svi sudionici obrazovnog procesa trebaju biti jasno informirani o tome kako sustavi umjetne inteligencije koriste njihove podatke. Na primjer, studenti trebaju znati zašto se prikupljaju podaci o njihovom napretku, kako se obrađuju i na koji način sustav generira personalizirane preporuke ili povratne informacije. Transparentnost je temelj za izgradnju povjerenja i prihvaćanje UI tehnologija u obrazovanju.

Dobivanje informiranog pristanka
Prikupljanje i obrada podataka dopušteni su samo uz slobodan i informiran pristanak osoba na koje se podaci odnose, u skladu s etičkim i pravnim standardima, poput Opće uredbe o zaštiti podataka (GDPR). Studenti trebaju imati pravo znati koje se informacije prikupljaju, koliko dugo se čuvaju i u koje se svrhe koriste – osobito kada se podaci koriste za treniranje ili prilagodbu sustava umjetne inteligencije.

Osiguravanje zaštite privatnosti i sigurnosti podataka
Kada umjetna inteligencija analizira obrazovne podatke, nužno je osigurati da su svi podaci adekvatno zaštićeni od neovlaštenog pristupa, gubitka ili zloupotrebe. Sigurnost se postiže tehničkim i organizacijskim mjerama, kao što su enkripcija, anonimizacija i uporaba pouzdanih sustava za pohranu i obradu. Na primjer, pri analizi angažiranosti studenata u digitalnim sustavima, identitet studenata treba ostati skriven kako bi se očuvala njihova privatnost.

Promicanje pravednosti i odgovornosti u sustavima umjetne inteligencije
Sustavi umjetne inteligencije u obrazovanju moraju biti dizajnirani i primijenjeni na način koji sprječava diskriminaciju i pristranost. Redovito testiranje i evaluacija modela nužni su kako bi se provjerilo jesu li odluke koje UI donosi pravedne i u skladu s pedagoškim ciljevima. Na primjer, ako sustav preporučuje dodatne obrazovne sadržaje, potrebno je provjeriti jesu li preporuke jednako dostupne svim studentima, bez obzira na njihove prethodne rezultate, sociodemografske karakteristike ili jezične sposobnosti.

Uloga nastavnika i studenata u etičkoj primjeni umjetne inteligencije
Nastavnici i studenti imaju zajedničku odgovornost za etičko postupanje s podacima i tehnologijama umjetne inteligencije. Nastavnici trebaju osigurati sigurno digitalno okruženje, poticati otvoren razgovor o etičkim izazovima i kritički preispitivati rezultate koje sustavi umjetne inteligencije generiraju. Studenti, s druge strane, trebaju razvijati svijest o važnosti zaštite osobnih podataka i razumjeti na koji način njihova interakcija s alatima umjetne inteligencije može utjecati na njihovo iskustvo učenja.

Podatkovna pismenost u kontekstu umjetne inteligencije ne podrazumijeva samo razumijevanje tehničkih procesa prikupljanja i obrade podataka, već i prepoznavanje pristranosti, etičkih izazova i ograničenja koje ovi sustavi nose. Samo promišljenim, odgovornim i transparentnim pristupom moguće je osigurati da umjetna inteligencija u obrazovanju pridonosi stvaranju pravednog, sigurnog i poticajnog okruženja za učenje.

6. Zaključak

U suvremenom obrazovanju obilje podataka i sve veća primjena umjetne inteligencije zahtijevaju novu razinu profesionalne odgovornosti i razumijevanja među nastavnicima i studentima. Podatkovna pismenost pritom postaje temeljna kompetencija – ona omogućuje kritičko promišljanje o načinu na koji se podaci prikupljaju, analiziraju i interpretiraju i osvještava moguće pristranosti i etičke izazove koji proizlaze iz njihova korištenja.

Razvijanje podatkovne pismenosti znači i razumijevanje kako odluke temeljene na podacima utječu na procese učenja, vrednovanja i planiranja nastave. U kombinaciji s etičkim načelima i pedagoškom osjetljivošću, ona omogućuje odgovorno korištenje umjetne inteligencije u obrazovanju – na način koji poštuje različitost, potiče pravednost i jača povjerenje u digitalne alate i sustave.

U konačnici, samo podatkovno pismeni sudionici obrazovnog procesa mogu donositi informirane odluke i koristiti tehnologije umjetne inteligencije na način koji doista unapređuje kvalitetu učenja i poučavanja, a ne narušava njezina temeljna načela.

Refleksivna aktivnost:

Razmislite o vlastitom iskustvu korištenja digitalnih alata i sustava koji uključuju elemente umjetne inteligencije u obrazovanju.

• Na koji način koristite podatke o studentima (ili o vlastitom učenju) kako biste poboljšali ishode učenja?
• Jeste li svjesni mogućih pristranosti u podacima koje analizirate ili koristite?
• Kako biste mogli unaprijediti svoj pristup podatkovnoj pismenosti kako bi primjena umjetne inteligencije u obrazovanju bila pravedna, sigurna i transparentna?

Zapišite nekoliko konkretnih primjera iz vlastite prakse ili iz okruženja u kojem djelujete.

7. Literatura

• Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2023). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, 610–623.  
  • Ovaj rad analizira etičke izazove i moguće rizike povezane s razvojem i uporabom velikih jezičnih modela, naglašavajući probleme pristranosti, neočekivanih ishoda i ograničenja u razumijevanju konteksta.
• Chouldechova, A., & Roth, A. (2023). A snapshot of the frontiers of fairness in machine learning. Communications of the ACM, 66(3), 30–38.
  • Autori pružaju pregled suvremenih istraživanja o pravičnosti u strojnome učenju, ističući različite pristupe, definicije i tehničke izazove u smanjenju pristranosti.
• Cheong, B. C. (2024). Transparency and accountability in AI systems: Safeguarding wellbeing in the age of algorithmic decision-making. Frontiers in Human Dynamics. 
  
  • Ovaj pregledni rad analizira ključne pravne i etičke izazove povezane s implementacijom transparentnosti i odgovornosti u AI sustavima.
• Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., ... & Vayena, E. (2018). AI4People—An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4), 689–707.
  • Ovaj rad predstavlja etički okvir za razvoj i primjenu umjetne inteligencije usmjeren na društveno korisne ishode, uključujući principe transparentnosti, pravičnosti i odgovornosti.
• UNESCO. (2021). Recommendation on the ethics of artificial intelligence. 
  • Preporuka UNESCO-a pruža međunarodni etički okvir za razvoj i uporabu umjetne inteligencije, s naglaskom na ljudska prava, transparentnost, zaštitu privatnosti i promicanje pravičnosti.