Podatkovna pismenost i umjetna inteligencija - pristranosti i ograničenja

1. Uvod

Među najvažnije izazove odgovorne primjene umjetne inteligencije u visokom obrazovanju ubraja se pristranost u podacima koja može nastati iz različitih razloga, na primjer, zbog neadekvatnih uzoraka, pogreškog prikupljanja i mjerenja, konstrukcijskih ograničenja algoritama ili subjektivnih interpretacija koje se prenose podacima. Takve pristranosti mogu dovesti do nepravednih obrazovnih ishoda za studente, narušiti povjerenje u tehnologije umjetne inteligencije i smanjiti njihovu učinkovitost u nastavnim i evaluacijskim procesima.

Sustavi umjetne inteligencije, iako napredni, ne mogu samostalno razumjeti složenost obrazovnih okruženja. Oni ovise o kvaliteti i reprezentativnosti podataka kojima raspolažu, zbog čega su ljudski nadzor i kritička analiza rezultata uvijek nužni. Nastavnici, istraživači, IT stručnjaci i drugi obrazovni dionici trebali bi zajednički procjenjivati izvore podataka, načine njihove interpretacije i etičke implikacije njihove uporabe.

U nastavku su opisane glavne vrste pristranosti u podacima, njihovim mogućim posljedicama u obrazovanju, ograničenjima sustava umjetne inteligencije i preporukama za etičnu i odgovornu primjenu podataka u praksi.