Primjeri uspješne implementacije alata i sustava umjetne inteligencije u obrazovanju – organizacijski aspekt

2.4. Etička pitanja i sigurnost podataka

Primjena umjetne inteligencije u obrazovanju zahtijeva pažljivo razmatranje etičkih pitanja, posebno onih koja se odnose na zaštitu privatnosti, transparentnost i pravednost algoritama. Budući da sustavi umjetne inteligencije obrađuju osjetljive osobne podatke polaznika – od radova do rezultata i obrazovnih navika – institucije moraju razviti jasne politike koje definiraju način prikupljanja, pohrane i uporabe tih podataka.

Takve politike obično uključuju:

• privatnost i obradu osobnih podataka, u skladu s važećim propisima o zaštiti podataka

• transparentnost rada sustava umjetne inteligencije, što znači da korisnici moraju razumjeti kako sustav funkcionira i na temelju kojih podataka donosi odluke

• izbjegavanje pristranosti i diskriminacije, kroz stalno testiranje i evaluaciju algoritama u svrhu osiguranja pravičnosti i etičnosti u rezultatima koje generiraju.

Primjer:

Sveučilište Michigan razvilo je vlastiti skup generativnih alata temeljenih na umjetnoj inteligenciji unutar zatvorene, sigurnosno kontrolirane infrastrukture.

Time je osigurano da se svi procesi – od analize podataka do automatiziranog vrednovanja pisanih zadataka – odvijaju u okviru strogo definiranih etičkih smjernica i pod nadzorom nastavnika.

Sustav je osmišljen tako da ne zamjenjuje nastavnika, nego ga podržava u procesu procjene i pružanju povratne informacije studentima. Svi algoritmi prolaze kroz provjeru na pristranost i točnost, a svaki rezultat može biti ručno revidiran prije nego što postane konačan. Na taj se način čuva akademska odgovornost i povjerenje studenata u pravednost evaluacijskog procesa.

Ova praksa Sveučilišta Michigan primjer je odgovorne institucionalne primjene umjetne inteligencije, jer pokazuje kako se tehnička inovacija može uskladiti s etičkim standardima i načelima akademske integriteta. Drugi mogu iz ovog modela preuzeti pristup u kojem se umjetna inteligencija ne promatra kao autonomni sustav odlučivanja, nego kao alat koji podupire ljudski nadzor, etičnost i transparentnost obrazovnog procesa.

Izvor slike: Shutterstock