Ce e tehnologia deepfake, ce îngrijorează experții. „Nașul AI” și alți cercetători cer luarea măsurilor drastice

Imaginile deepfake, care falsifică video-uri cu persoane cunoscute, precum politicieni, actori și cântăreți, au fost folosite deja pentru a înșela oameni, scrie Reuters.

În plus, aceeași tehnologie a fost folosită recent în crearea unui anunț publicitar politic, în alegerile din Indonezia.

Ce e tehnologia deepfake, ce îngrijorează experții

Experţi din domeniul inteligenţei artificiale (AI) şi directori ai unor companii din industria de profil, inclusiv unul dintre pionierii acestei tehnologii, Yoshua Bengio, au semnat o scrisoare deschisă. Prin aceasta au cerut o reglementare mai strictă a conţinuturilor de tip „deepfake”. Experții au invocat riscuri potenţiale pentru societatea umană, informează Reuters, scrie AGERPRES. 

„În prezent, conţinuturile ‘deepfake’ implică adeseori imagini cu caracter sexual, fraude şi dezinformare politică. Deoarece AI progresează rapid şi face ca producţiile ‘deepfake’ să fie mult mai uşor de creat, sunt necesare măsuri de protecţie”, a afirmat grupul în scrisoarea deschisă. Aceasta a fost redactată de Andrew Critch, cercetător în domeniul inteligenţei artificiale la Universitatea California din Berkeley, ce a vorbit despre ce e tehnologia deepfake. 

Conţinuturile ”deepfake” sunt imagini, înregistrări audio şi video realiste, dar trucate. Sunt create de algoritmi de inteligenţă artificială.

Progresele recente ale acestei tehnologii au făcut ca ele să devină din ce în ce mai greu de diferenţiat de conţinuturile create de oameni.

Scrisoarea deschisă e intitulată „Disrupting the Deepfake Supply Chain” („Întreruperea lanţului de aprovizionare pentru deepfake”). Face o serie de recomandări cu privire la modul de reglementare a conţinuturilor „deepfake”, inclusiv incriminarea completă a pornografiei infantile de tip „deepfake”. Și sancţiuni penale pentru orice persoană care creează sau facilitează cu bună ştiinţă răspândirea de „deepfake” dăunătoare.

Experții solicită totodată companiilor de inteligenţă artificială să împiedice produsele lor să creeze conţinuturi „deepfake” dăunătoare.

Până pe 21 februarie dimineaţă, peste 400 de persoane din diverse industrii au semnat scrisoare. Printre aceștia se numără cercetători inclusiv din mediul academic, divertisment şi politică. Au semnat scrisoarea despre tehnologia deepfake, ce e un fenomen care îngrijorează, în încercarea de a atrage atenția asupra riscurilor.

Cine a semnat scrisoare deschisă împotriva deepfake 

Printre semnatari se numără Steven Pinker, profesor de psihologie la Universitatea Harvard. Joy Buolamwini, fondatoarea Ligii Justiţiei Algoritmice, a semnat și ea. La aceștia se adaugă doi foşti preşedinţi estonieni, cercetători de la Google DeepMind şi un cercetător de la OpenAI.

Recent, un adolescent a creat un program care poate identifica video-urile deepfake.

Garantarea faptului că sistemele de inteligenţă artificială nu dăunează societăţii a fost o prioritate pentru autorităţile de reglementare. Mai ales după ce compania OpenAI, susţinută de Microsoft, a lansat ChatGPT la sfârşitul anului 2022. Chatbot-ul a uimit utilizatorii prin capacitatea sa de a susţine conversaţii asemănătoare cu cele umane. Și prin uşurinţa cu care îndeplineşte diverse alte sarcini. Tehnologia deepfake, ce e îngrijorătoare, are capacitatea de a păcăli oamenii, inclusiv în alegeri politice sau în decizii financiare importante. 

Au existat mai multe avertismente din partea unor personalităţi proeminente cu privire la riscurile generate de AI. În special o scrisoare semnată de Elon Musk anul trecut. În aceasta, se cerea o pauză de şase luni în dezvoltarea unor sisteme mai puternice decât modelul de inteligenţă artificială GPT-4. Acesta e creat de OpenAI.