OpenAI avertizează că utilizatorii pot deveni dependenți emoțional de o funcție ChatGPT. Ce poate să facă

Experții OpenAI avertizează că utilizatorii pot deveni dependenți emoțional de o nouă funcție pe care o are cea mai recentă variantă a modelului ChatGPT.

Publicat: 9 august 2024, 15:38 / Actualizat: 9 august 2024, 16:38
Reclamă

La finalul lunii iulie, OpenAI a început să introducă o interfață vocală pentru ChatGPT, ce are o voce foarte similară cu una umană. Într-o analiză de siguranță lansată recent, compania recunoaște că această voce antropomorfă ar putea atrage unii utilizatori până în punctul în care ar deveni atașați emoțional de un chatbot. 

Aceste avertismente sunt incluse în „cardul sistemului” GPT-4o. Acesta e un document tehnic care detaliază care sunt riscurile estimate de companie atunci când vine vorba de acest model, scrie Wired

Documentul detaliază și testele de siguranță și eforturile pe care le depune OpenAI pentru a reduce acest risc potențial.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

OpenAI avertizează că utilizatorii pot deveni dependenți emoțional de o funcție ChatGPT

În ultimele luni, OpenAI a fost criticat după ce mai mulți angajați care lucrau la gestionarea pericolului AI pe termen lung și-au dat demisia. Compania a fost acuzată că pune profitul deasupra riscurilor AI pentru societate. 

În urma acestor critici, OpenAI avertizează că utilizatorii pot deveni dependenți de o nouă funcție introdusă de model. 

Reclamă
Reclamă

În document, sunt detaliate riscurile pe care le poate introduce varianta GPT-4o. Printre acestea se numără amplificarea prejudecăților sociale, transmiterea informațiilor false și dezvoltarea armelor chimice sau biologice. Unii experți apreciază transparența OpenAI, dar încurajează compania să ofere și mai multe detalii. 

„Întrebarea consimțământului în crearea unei baze de date atât de mari, cu multiple modalități, inclusiv text, imagine și mod vocal, trebuie să fie adresată,” a declarat Lucie-Aimee Kaffee, cercetătoare în cadrul Hugging Face, companie AI. 

Noul document scoate în evidență cât de repede evoluează riscurile AI. În luna mai, compania a anunțat modul vocal. Acesta poate să răspundă rapid și să gestioneze întreruperile într-un mod natural. După lansare, actrița Scarlett Johansson a criticat compania. Pentru că OpenAI ar fi folosit o voce similară cu a ei pentru funcția vocală. 

Dar unul dintre cele mai importante elemente din acest document e faptul că OpenAI avertizează că utilizatorii pot deveni dependenți emoțional de funcția vocală. 

Oamenii pot percepe tehnologia AI în termeni umani

Se pare că problema dependenței emoționale apare atunci când utilizatorii percep inteligența emoțională în termeni umani. Se pare că acest efect, numit și efectul ELIZA, atinge un prag și mai ridicat atunci când e folosit modul vocal. 

În timpul testelor GPT-4o, cercetătorii OpenAI au observat cazuri în care conversația utilizatorilor a ridicat semne de întrebare. Aceste conversații au dat de înțeles că au o conexiune emoțională cu modelul. De exemplu, unii dintre participanți au folosit expresii precum: „Aceasta e ultima noastră zi împreună”. 

În urma acestor teste, OpenAI avertizează că utilizatorii pot deveni dependenți emoțional când folosesc acest mod vocal. De-a lungul timpului, această conexiune emoțională poate afecta relația unor utilizatori cu alte persoane.

„Utilizatorii ar putea forma relații sociale cu AI, ceea ce ar reduce nevoia lor de interacțiune umană,” scrie în document. „Ceea ce ar putea ajuta indivizii care se simt singuri, dar poate afecta relațiile sănătoase.” 

OpenAI nu e singura companie care a recunoscut riscul că asistenții AI pot mima interacțiunea umană. În aprilie, Google DeepMind a lansat o cercetare. În aceasta, compania a detaliat potențialele obstacole etice care apar în cazul asistenților AI mai capabili.

Reclamă
Te-ar mai putea interesa și
Utilizator care are un telefon cu WhatsApp pe ecran. Experții au emis avertismente urgente pentru utilizatorii WhatsApp
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Un robot alb care vorbește cu un adolescent care își face temele, amândoi pe canapea, pentru a ilustra ce e efectul Eliza
Un model AI a trecut de testul Turing, în premieră mondială. Cum a reușit
Un model AI a trecut de testul Turing, în premieră mondială. Cum a reușit
Laptop deschis cu OpenAI pe ecran și un telefon cu ChatGPT pe ecran, pentru a ilustra industria pe care ChatGPT o poate schimba
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră. Pentru ce opțiune există o „cerere biblică”
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră. Pentru ce opțiune există o „cerere biblică”
RECOMANDĂRI USEIT.RO
1
Doi astronauți, lângă Stația Spațială Internațională, în spațiu, cu Pământul pe fundal. Acolo vor ajunge și astronauții amatori care au plătit câte 55 de milioane de dolari pentru misiune
Riscul la care se expun astronauții care zboară spre Marte. Corpul lor nu va mai fi la fel niciodată
Puțini știu riscul la care se expun astronauții care zboară spre Marte, un drum care are efecte semnificative asupra corpului lor. Călătoriile mai lungi în spațiu vor avea loc în următoarele decenii. Pentru a...
Riscul la care se expun astronauții care zboară spre Marte. Corpul lor nu va mai fi la fel niciodată
2
Utilizator care are un telefon cu WhatsApp pe ecran. Experții au dezvăluit cum poți verifica dacă ți-a fost citit mesajul pe Android
Îți place să trimiți mesaje vocale pe WhatsApp? Ce spun psihologii despre tine
Dacă îți place să trimiți mesaje vocale pe WhatsApp, s-ar putea să ai o trăsătură pe care psihologii au scos-o în evidență.  Mesajele vocale tind să dividă utilizatorii. Unii dintre ei adoră să le...
Îți place să trimiți mesaje vocale pe WhatsApp? Ce spun psihologii despre tine
3
Femeie care a adus un laptop pe avion și îl folosește
Ce nu trebuie să faci cu un laptop pe avion. Greșeala care îți poate strica dispozitivul
Experții au dezvăluit ce nu trebuie să faci cu un laptop pe avion, o greșeală mult mai comună decât își dau seama cei mai mulți pasageri.  Pentru mulți pasageri, timpul petrecut în zbor reprezintă...
Ce nu trebuie să faci cu un laptop pe avion. Greșeala care îți poate strica dispozitivul
4
Planeta Pământ, împărțită în două. Într-o parte e verde și sănătoasă, în cealaltă e uscată, pe moarte. Planeta e ținută de o mână
Încălzirea globală ar putea distruge 40% din economia globală. Cum e posibil
Experții au estimat că încălzirea globală ar putea distruge 40% din economia globală, o scădere care va avea loc în timpul vieții noastre. Distrugerea cauzată de schimbarea climei se va resimți și la nivelul...
Încălzirea globală ar putea distruge 40% din economia globală. Cum e posibil
5
Logoul Google Chrome, înainte să fie schimbat, pe ecranul unui telefon mobil, lângă o tastatură
Google a pierdut un proces antitrust important în SUA. Ce nu mai poate face gigantul tech de acum
Google a pierdut un proces antitrust împotriva Departamentului de Justiție din SUA, după ce gigantul tech a fost acuzat că are monopol în domeniul publicității în industria tech. O mare parte din profitul Google...
Google a pierdut un proces antitrust important în SUA. Ce nu mai poate face gigantul tech de acum
PARTENERI
×