Implikacije korištenja umjetne inteligencije u obrazovnim sustavima

3. Sigurnosni aspekti primjene umjetne inteligencije u visokom obrazovanju

Sustavi umjetne inteligencije u obrazovanju obrađuju širok spektar osobnih i profesionalnih podataka. Posebno osjetljivi su podatci o studentima, uključujući njihove akademske rezultate, navike učenja i obrasce ponašanja u digitalnom okruženju. Pored toga, umjetna inteligencija obrađuje i podatke o nastavnicima, administrativnom osoblju, istraživačima i vanjskim suradnicima, a svaki neovlašteni pristup tim podatcima može narušiti privatnost, profesionalni integritet i povjerenje u instituciju.

Usklađenost s Europskim aktom o umjetnoj inteligenciji i GDPR-om

Prema Europskom aktu o umjetnoj inteligenciji, sustavi koji utječu na pristup obrazovanju ili vrednovanje studenata svrstavaju se među visokorizične, što institucijama nameće obveze:

• aktivno upravljanje sigurnosnim rizicima
• osiguravanje kibernetičke otpornosti sustava
• dokumentiranje sigurnosnih mjera i provjera
• ljudski nadzor u ključnim odlukama
• potpuna usklađenost s GDPR-om u zaštiti osobnih podataka.

Cilj je očuvati prava, sigurnost i dobrobit svih dionika akademske zajednice.

Refleksivno pitanje

• Koje se sigurnosne mjere i postupci u vašem obrazovnom okruženju već provode i kako biste ih unaprijedili kako bi primjena umjetne inteligencije ostala sigurna i pouzdana?