Umetna inteligenca danes omogoča ustvarjanje izjemno realističnih slik in videoposnetkov, ki jih ni nikoli posnela kamera. Tehnologija napreduje izjemno hitro, s tem pa rastejo tudi tveganja za zlorabe, posege v zasebnost in širjenje dezinformacij.

Informacijski pooblaščenec Republike Slovenije se je pridružil globalnemu pozivu za varno in odgovorno ustvarjanje vizualnih vsebin z uporabo umetne inteligence. Pobuda poudarja, da morajo razvijalci in ponudniki takšnih orodij že v fazi načrtovanja zagotoviti spoštovanje temeljnih pravic posameznikov, zlasti pravice do varstva osebnih podatkov.

Posebna pozornost je namenjena t. i. deepfake vsebinam – realističnim, vendar lažnim prikazom oseb, ki lahko resno posežejo v dostojanstvo posameznika, njegov ugled ali zasebnost. Tehnologija sama po sebi ni sporna, problematična postane njena uporaba brez jasnih pravil, nadzora in odgovornosti.

V pozivu je izpostavljeno načelo »privacy by design« in »privacy by default«, kar pomeni, da morajo biti sistemi umetne inteligence zasnovani tako, da že v osnovi zmanjšujejo tveganja za zlorabe, omejujejo obdelavo osebnih podatkov in omogočajo večjo preglednost. Uporabniki morajo biti jasno obveščeni, kdaj gre za vsebino, ki jo je ustvarila umetna inteligenca.

Za organizacije to pomeni potrebo po jasnih internih pravilih uporabe generativne umetne inteligence, presoji vplivov na varstvo podatkov ter doslednem upravljanju tveganj – tudi v luči GDPR in prihajajočega Akta o umetni inteligenci.

Digitalno zaupanje ni samoumevno. Gradimo ga z odgovorno rabo tehnologije.

Vir:
Informacijski pooblaščenec RS – Globalni poziv za varno ustvarjanje slik in videoposnetkov z umetno inteligenco
https://www.ip-rs.si/novice/globalni-poziv-za-varno-ustvarjanje-slik-in-videoposnetkov-s-pomo%C4%8Djo-umetne-inteligence-1772189462