Experți în inteligența artificială, inclusiv Yoshua Bengio, considerat „nașul AI”, au semnat o scrisoare deschisă prin care cer luarea unor măsuri de urgență împotriva creațiilor deepfake. Acestea pot înșela miliarde de persoane pe viitor.
Ce e tehnologia deepfake, ce îngrijorează experții. „Nașul AI” și alți cercetători cer luarea măsurilor drastice
Mulți utilizatori nu știu ce e tehnologia deepfake, fenomenul poate afecta miliarde de oameni pe termen lung dacă nu e reglementată corespunzător.
![Femeie care are semne holografice pe față, pentru a ilustra ce e tehnologia deepfake Femeie care are semne holografice pe față, pentru a ilustra ce e tehnologia deepfake](https://useit.ro/wp-content/uploads/2024/02/Ce-e-tehnologia-deepfake-ce-ingrijoreaza-expertii-„Nasul-AI-si-alti-cercetatori-cer-luarea-masurilor-drastice-790x460.jpg)
Imaginile deepfake, care falsifică video-uri cu persoane cunoscute, precum politicieni, actori și cântăreți, au fost folosite deja pentru a înșela oameni, scrie Reuters.
În plus, aceeași tehnologie a fost folosită recent în crearea unui anunț publicitar politic, în alegerile din Indonezia.
Ce e tehnologia deepfake, ce îngrijorează experții
Experţi din domeniul inteligenţei artificiale (AI) şi directori ai unor companii din industria de profil, inclusiv unul dintre pionierii acestei tehnologii, Yoshua Bengio, au semnat o scrisoare deschisă. Prin aceasta au cerut o reglementare mai strictă a conţinuturilor de tip „deepfake”. Experții au invocat riscuri potenţiale pentru societatea umană, informează Reuters, scrie AGERPRES.
„În prezent, conţinuturile ‘deepfake’ implică adeseori imagini cu caracter sexual, fraude şi dezinformare politică. Deoarece AI progresează rapid şi face ca producţiile ‘deepfake’ să fie mult mai uşor de creat, sunt necesare măsuri de protecţie”, a afirmat grupul în scrisoarea deschisă. Aceasta a fost redactată de Andrew Critch, cercetător în domeniul inteligenţei artificiale la Universitatea California din Berkeley, ce a vorbit despre ce e tehnologia deepfake.
Conţinuturile ”deepfake” sunt imagini, înregistrări audio şi video realiste, dar trucate. Sunt create de algoritmi de inteligenţă artificială.
Progresele recente ale acestei tehnologii au făcut ca ele să devină din ce în ce mai greu de diferenţiat de conţinuturile create de oameni.
Scrisoarea deschisă e intitulată „Disrupting the Deepfake Supply Chain” („Întreruperea lanţului de aprovizionare pentru deepfake”). Face o serie de recomandări cu privire la modul de reglementare a conţinuturilor „deepfake”, inclusiv incriminarea completă a pornografiei infantile de tip „deepfake”. Și sancţiuni penale pentru orice persoană care creează sau facilitează cu bună ştiinţă răspândirea de „deepfake” dăunătoare.
Experții solicită totodată companiilor de inteligenţă artificială să împiedice produsele lor să creeze conţinuturi „deepfake” dăunătoare.
Până pe 21 februarie dimineaţă, peste 400 de persoane din diverse industrii au semnat scrisoare. Printre aceștia se numără cercetători inclusiv din mediul academic, divertisment şi politică. Au semnat scrisoarea despre tehnologia deepfake, ce e un fenomen care îngrijorează, în încercarea de a atrage atenția asupra riscurilor.
Cine a semnat scrisoare deschisă împotriva deepfake
Printre semnatari se numără Steven Pinker, profesor de psihologie la Universitatea Harvard. Joy Buolamwini, fondatoarea Ligii Justiţiei Algoritmice, a semnat și ea. La aceștia se adaugă doi foşti preşedinţi estonieni, cercetători de la Google DeepMind şi un cercetător de la OpenAI.
Recent, un adolescent a creat un program care poate identifica video-urile deepfake.
Garantarea faptului că sistemele de inteligenţă artificială nu dăunează societăţii a fost o prioritate pentru autorităţile de reglementare. Mai ales după ce compania OpenAI, susţinută de Microsoft, a lansat ChatGPT la sfârşitul anului 2022. Chatbot-ul a uimit utilizatorii prin capacitatea sa de a susţine conversaţii asemănătoare cu cele umane. Și prin uşurinţa cu care îndeplineşte diverse alte sarcini. Tehnologia deepfake, ce e îngrijorătoare, are capacitatea de a păcăli oamenii, inclusiv în alegeri politice sau în decizii financiare importante.
Au existat mai multe avertismente din partea unor personalităţi proeminente cu privire la riscurile generate de AI. În special o scrisoare semnată de Elon Musk anul trecut. În aceasta, se cerea o pauză de şase luni în dezvoltarea unor sisteme mai puternice decât modelul de inteligenţă artificială GPT-4. Acesta e creat de OpenAI.
![Un robot umanoid, similar cu cel pe care l-a dezvăluit Xiaomi](https://cdn.useit.ro/wp-content/uploads/2022/08/Xiaomi-a-dezvaluit-un-robot-umanoid-Multi-cred-ca-design-ul-CyberOne-e-prea-similar-cu-cel-Tesla-360x208.jpg)
![O moleculă aurie, pe fundal negru, similară cu cea descoperită recent](https://cdn.useit.ro/wp-content/uploads/2022/08/O-molecula-descoperita-recent-poate-lupta-impotriva-a-300-de-bacterii-rezistente-la-antibiotice-Reusita-expertilor-a-impresionat-360x208.jpg)
![Telefon pe ecranul căruia apare logo-ul Meta, cu simbolurile Facebook, WhatsApp și Instagram pe fundal. Recent, Facebook a pierdut 500 de miliarde de dolari](https://cdn.useit.ro/wp-content/uploads/2022/02/Facebook-a-pierdut-500-de-miliarde-de-dolari-de-cand-s-a-schimbat-in-Meta-Ce-probleme-are-compania-360x208.jpg)
![Cană de cafea albă, lângă saci cu boace de cafea, pe un fundal de lemn închis. Recolta de cafea globală e în pericol](https://cdn.useit.ro/wp-content/uploads/2022/01/Recolta-de-cafea-globala-e-in-pericol-Ce-s-ar-putea-intampla-cu-una-dintre-cele-mai-bauturi-din-lume-264x264.jpg)
![Buzz Aldrin, în costum de astronaut, lângă steagul american de pe Lună, iulie 1969, pentru a ilustra ce s-a întâmplat cu steagurile lăsate pe Lună](https://cdn.useit.ro/wp-content/uploads/2024/07/Ce-s-a-intamplat-cu-steagurile-lasate-pe-Luna-de-catre-astronautii-Apollo-Putini-prin-ce-au-trecut-in-ultimele-decenii-264x264.jpg)
![Buzz Aldrin, în costum de astronaut, lângă steagul american de pe Lună, iulie 1969, pentru a ilustra ce s-a întâmplat cu steagurile lăsate pe Lună](https://cdn.useit.ro/wp-content/uploads/2024/07/Ce-s-a-intamplat-cu-steagurile-lasate-pe-Luna-de-catre-astronautii-Apollo-Putini-prin-ce-au-trecut-in-ultimele-decenii-264x264.jpg)
![Buzz Aldrin, în costum de astronaut, lângă steagul american de pe Lună, iulie 1969, pentru a ilustra ce s-a întâmplat cu steagurile lăsate pe Lună](https://cdn.useit.ro/wp-content/uploads/2024/07/Ce-s-a-intamplat-cu-steagurile-lasate-pe-Luna-de-catre-astronautii-Apollo-Putini-prin-ce-au-trecut-in-ultimele-decenii-264x264.jpg)
![Ploaie de meteoriți pe un cer mov, înconjurat de copaci negri, similară cu Perseide în 2023](https://cdn.useit.ro/wp-content/uploads/2023/07/Perseide-2023-Cand-are-loc-una-dintre-cele-mai-spectaculoase-ploi-de-meteoriti-264x264.jpg)
![Ploaie de meteoriți pe un cer mov, înconjurat de copaci negri, similară cu Perseide în 2023](https://cdn.useit.ro/wp-content/uploads/2023/07/Perseide-2023-Cand-are-loc-una-dintre-cele-mai-spectaculoase-ploi-de-meteoriti-264x264.jpg)
![Ploaie de meteoriți pe un cer mov, înconjurat de copaci negri, similară cu Perseide în 2023](https://cdn.useit.ro/wp-content/uploads/2023/07/Perseide-2023-Cand-are-loc-una-dintre-cele-mai-spectaculoase-ploi-de-meteoriti-264x264.jpg)
![Calculator cu ecranul albastru, după pana globală Microsoft Windows din iulie 2024, pentru a ilustra cum Microsoft a dezvăluit câte computere au fost afectate](https://cdn.useit.ro/wp-content/uploads/2024/07/Microsoft-a-dezvaluit-cate-computere-au-fost-afectate-de-pana-globala.-Ar-fi-cel-mai-mare-incident-cibernetic-din-istorie-264x264.jpg)
![Calculator cu ecranul albastru, după pana globală Microsoft Windows din iulie 2024, pentru a ilustra cum Microsoft a dezvăluit câte computere au fost afectate](https://cdn.useit.ro/wp-content/uploads/2024/07/Microsoft-a-dezvaluit-cate-computere-au-fost-afectate-de-pana-globala.-Ar-fi-cel-mai-mare-incident-cibernetic-din-istorie-264x264.jpg)
![Calculator cu ecranul albastru, după pana globală Microsoft Windows din iulie 2024, pentru a ilustra cum Microsoft a dezvăluit câte computere au fost afectate](https://cdn.useit.ro/wp-content/uploads/2024/07/Microsoft-a-dezvaluit-cate-computere-au-fost-afectate-de-pana-globala.-Ar-fi-cel-mai-mare-incident-cibernetic-din-istorie-264x264.jpg)
![Piața centrală din Zurich, Elveția, unul dintre cele mai „inteligente” orașe din lume](https://useit.ro/wp-content/uploads/2024/07/Cele-mai-„inteligente-orase-din-lume-in-2024.-Ce-beneficii-au-cei-locuiesc-in-capitalele-smart-264x264.jpg)
![Piața centrală din Zurich, Elveția, unul dintre cele mai „inteligente” orașe din lume](https://useit.ro/wp-content/uploads/2024/07/Cele-mai-„inteligente-orase-din-lume-in-2024.-Ce-beneficii-au-cei-locuiesc-in-capitalele-smart-264x264.jpg)
![Piața centrală din Zurich, Elveția, unul dintre cele mai „inteligente” orașe din lume](https://useit.ro/wp-content/uploads/2024/07/Cele-mai-„inteligente-orase-din-lume-in-2024.-Ce-beneficii-au-cei-locuiesc-in-capitalele-smart-264x264.jpg)
![Anul școlar 2024-2025. La ce dată începe școala și câte zile de vacanță vor avea elevii](https://img.a1.ro/?u=https://a1.ro/uploads/modules/news/0/2024/7/22/1119472/ligia-deca-structura-an-scolar-2024-2025-educatie-scoala-itqzix4c.jpg?w=300&h=250&c=1)
![Anul școlar 2024-2025. La ce dată începe școala și câte zile de vacanță vor avea elevii](https://img.a1.ro/?u=https://a1.ro/uploads/modules/news/0/2024/7/22/1119472/ligia-deca-structura-an-scolar-2024-2025-educatie-scoala-itqzix4c.jpg?w=300&h=250&c=1)
![Admitere facultate 2024. Cea mai râvnită specializare: 61 de candidați se bat pe un loc la buget](https://img.observatornews.ro/?u=https://observatornews.ro/uploads/modules/news/0/2024/7/26/587302/universitatea-din-bucuresti-admitere-53d8adc9.jpg&w=300&h=250&c=1)
![Admitere facultate 2024. Cea mai râvnită specializare: 61 de candidați se bat pe un loc la buget](https://img.observatornews.ro/?u=https://observatornews.ro/uploads/modules/news/0/2024/7/26/587302/universitatea-din-bucuresti-admitere-53d8adc9.jpg&w=300&h=250&c=1)
![Souvlaki de pui. Rețetă simplă și delicioasă din bucătăria grecească](https://cdn.catine.ro/wp-content/uploads/2024/07/Souvlaki-de-pui-790x460.jpg)
![Souvlaki de pui. Rețetă simplă și delicioasă din bucătăria grecească](https://cdn.catine.ro/wp-content/uploads/2024/07/Souvlaki-de-pui-790x460.jpg)
![Reacţia Larisei Drăgulescu după ce a aflat că Marian Drăgulescu se însoară! Ce relaţie poate avea cu logodnica fostului gimnast](https://as.ro/wp-content/uploads/2024/07/larisa-carmen-si-marian-dragulescu-1024x597.jpg)
![Reacţia Larisei Drăgulescu după ce a aflat că Marian Drăgulescu se însoară! Ce relaţie poate avea cu logodnica fostului gimnast](https://as.ro/wp-content/uploads/2024/07/larisa-carmen-si-marian-dragulescu-1024x597.jpg)
![Metode de tratare a rănilor și entorselor. Ce poți folosi pentru a le ameliora](https://medicool.ro/wp-content/uploads/2024/07/metode-de-tratare-a-ranilor-si-entorselor-ce-poti-folosi-pentru-a-le-ameliora-790x459.jpg)
![Metode de tratare a rănilor și entorselor. Ce poți folosi pentru a le ameliora](https://medicool.ro/wp-content/uploads/2024/07/metode-de-tratare-a-ranilor-si-entorselor-ce-poti-folosi-pentru-a-le-ameliora-790x459.jpg)
![Jorge Salinas o apără pe soția Elizabeth Alvarez în fața criticilor. Internauții spun că a luat mai multe kilograme în plus](https://img.digitalag.ro/?u=https://tvhappy.ro/uploads/modules/news/0/2024/7/25/438458/17218987457dd5e8f3.jpg&w=300&h=250&c=1)
![Jorge Salinas o apără pe soția Elizabeth Alvarez în fața criticilor. Internauții spun că a luat mai multe kilograme în plus](https://img.digitalag.ro/?u=https://tvhappy.ro/uploads/modules/news/0/2024/7/25/438458/17218987457dd5e8f3.jpg&w=300&h=250&c=1)