Podatkovna pismenost i umjetna inteligencija - pristranosti i ograničenja

5. Etičko korištenje podataka i zaštita privatnosti u primjeni umjetne inteligencije u obrazovanju

Budući da sustavi umjetne inteligencije prikupljaju, analiziraju i interpretiraju velike količine obrazovnih podataka, svaki korak u tom procesu mora biti utemeljen na odgovornosti, transparentnosti i poštivanju privatnosti studenata i nastavnika.

Pridržavanje načela transparentnosti
Svi sudionici obrazovnog procesa trebaju biti jasno informirani o tome kako sustavi umjetne inteligencije koriste njihove podatke. Na primjer, studenti trebaju znati zašto se prikupljaju podaci o njihovom napretku, kako se obrađuju i na koji način sustav generira personalizirane preporuke ili povratne informacije. Transparentnost je temelj za izgradnju povjerenja i prihvaćanje UI tehnologija u obrazovanju.

Dobivanje informiranog pristanka
Prikupljanje i obrada podataka dopušteni su samo uz slobodan i informiran pristanak osoba na koje se podaci odnose, u skladu s etičkim i pravnim standardima, poput Opće uredbe o zaštiti podataka (GDPR). Studenti trebaju imati pravo znati koje se informacije prikupljaju, koliko dugo se čuvaju i u koje se svrhe koriste – osobito kada se podaci koriste za treniranje ili prilagodbu sustava umjetne inteligencije.

Osiguravanje zaštite privatnosti i sigurnosti podataka
Kada umjetna inteligencija analizira obrazovne podatke, nužno je osigurati da su svi podaci adekvatno zaštićeni od neovlaštenog pristupa, gubitka ili zloupotrebe. Sigurnost se postiže tehničkim i organizacijskim mjerama, kao što su enkripcija, anonimizacija i uporaba pouzdanih sustava za pohranu i obradu. Na primjer, pri analizi angažiranosti studenata u digitalnim sustavima, identitet studenata treba ostati skriven kako bi se očuvala njihova privatnost.

Promicanje pravednosti i odgovornosti u sustavima umjetne inteligencije
Sustavi umjetne inteligencije u obrazovanju moraju biti dizajnirani i primijenjeni na način koji sprječava diskriminaciju i pristranost. Redovito testiranje i evaluacija modela nužni su kako bi se provjerilo jesu li odluke koje UI donosi pravedne i u skladu s pedagoškim ciljevima. Na primjer, ako sustav preporučuje dodatne obrazovne sadržaje, potrebno je provjeriti jesu li preporuke jednako dostupne svim studentima, bez obzira na njihove prethodne rezultate, sociodemografske karakteristike ili jezične sposobnosti.

Uloga nastavnika i studenata u etičkoj primjeni umjetne inteligencije
Nastavnici i studenti imaju zajedničku odgovornost za etičko postupanje s podacima i tehnologijama umjetne inteligencije. Nastavnici trebaju osigurati sigurno digitalno okruženje, poticati otvoren razgovor o etičkim izazovima i kritički preispitivati rezultate koje sustavi umjetne inteligencije generiraju. Studenti, s druge strane, trebaju razvijati svijest o važnosti zaštite osobnih podataka i razumjeti na koji način njihova interakcija s alatima umjetne inteligencije može utjecati na njihovo iskustvo učenja.

Podatkovna pismenost u kontekstu umjetne inteligencije ne podrazumijeva samo razumijevanje tehničkih procesa prikupljanja i obrade podataka, već i prepoznavanje pristranosti, etičkih izazova i ograničenja koje ovi sustavi nose. Samo promišljenim, odgovornim i transparentnim pristupom moguće je osigurati da umjetna inteligencija u obrazovanju pridonosi stvaranju pravednog, sigurnog i poticajnog okruženja za učenje.