OpenAI avertizează că utilizatorii pot deveni dependenți emoțional de o funcție ChatGPT. Ce poate să facă

Experții OpenAI avertizează că utilizatorii pot deveni dependenți emoțional de o nouă funcție pe care o are cea mai recentă variantă a modelului ChatGPT.

Publicat: 9 august 2024, 15:38 / Actualizat: 9 august 2024, 16:38
Reclamă

La finalul lunii iulie, OpenAI a început să introducă o interfață vocală pentru ChatGPT, ce are o voce foarte similară cu una umană. Într-o analiză de siguranță lansată recent, compania recunoaște că această voce antropomorfă ar putea atrage unii utilizatori până în punctul în care ar deveni atașați emoțional de un chatbot. 

Aceste avertismente sunt incluse în „cardul sistemului” GPT-4o. Acesta e un document tehnic care detaliază care sunt riscurile estimate de companie atunci când vine vorba de acest model, scrie Wired

Documentul detaliază și testele de siguranță și eforturile pe care le depune OpenAI pentru a reduce acest risc potențial.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

OpenAI avertizează că utilizatorii pot deveni dependenți emoțional de o funcție ChatGPT

În ultimele luni, OpenAI a fost criticat după ce mai mulți angajați care lucrau la gestionarea pericolului AI pe termen lung și-au dat demisia. Compania a fost acuzată că pune profitul deasupra riscurilor AI pentru societate. 

În urma acestor critici, OpenAI avertizează că utilizatorii pot deveni dependenți de o nouă funcție introdusă de model. 

Reclamă
Reclamă

În document, sunt detaliate riscurile pe care le poate introduce varianta GPT-4o. Printre acestea se numără amplificarea prejudecăților sociale, transmiterea informațiilor false și dezvoltarea armelor chimice sau biologice. Unii experți apreciază transparența OpenAI, dar încurajează compania să ofere și mai multe detalii. 

„Întrebarea consimțământului în crearea unei baze de date atât de mari, cu multiple modalități, inclusiv text, imagine și mod vocal, trebuie să fie adresată,” a declarat Lucie-Aimee Kaffee, cercetătoare în cadrul Hugging Face, companie AI. 

Noul document scoate în evidență cât de repede evoluează riscurile AI. În luna mai, compania a anunțat modul vocal. Acesta poate să răspundă rapid și să gestioneze întreruperile într-un mod natural. După lansare, actrița Scarlett Johansson a criticat compania. Pentru că OpenAI ar fi folosit o voce similară cu a ei pentru funcția vocală. 

Dar unul dintre cele mai importante elemente din acest document e faptul că OpenAI avertizează că utilizatorii pot deveni dependenți emoțional de funcția vocală. 

Oamenii pot percepe tehnologia AI în termeni umani

Se pare că problema dependenței emoționale apare atunci când utilizatorii percep inteligența emoțională în termeni umani. Se pare că acest efect, numit și efectul ELIZA, atinge un prag și mai ridicat atunci când e folosit modul vocal. 

În timpul testelor GPT-4o, cercetătorii OpenAI au observat cazuri în care conversația utilizatorilor a ridicat semne de întrebare. Aceste conversații au dat de înțeles că au o conexiune emoțională cu modelul. De exemplu, unii dintre participanți au folosit expresii precum: „Aceasta e ultima noastră zi împreună”. 

În urma acestor teste, OpenAI avertizează că utilizatorii pot deveni dependenți emoțional când folosesc acest mod vocal. De-a lungul timpului, această conexiune emoțională poate afecta relația unor utilizatori cu alte persoane.

„Utilizatorii ar putea forma relații sociale cu AI, ceea ce ar reduce nevoia lor de interacțiune umană,” scrie în document. „Ceea ce ar putea ajuta indivizii care se simt singuri, dar poate afecta relațiile sănătoase.” 

OpenAI nu e singura companie care a recunoscut riscul că asistenții AI pot mima interacțiunea umană. În aprilie, Google DeepMind a lansat o cercetare. În aceasta, compania a detaliat potențialele obstacole etice care apar în cazul asistenților AI mai capabili.

Reclamă
Te-ar mai putea interesa și
Utilizator care are un telefon cu WhatsApp pe ecran. Experții au emis avertismente urgente pentru utilizatorii WhatsApp
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Un robot alb care vorbește cu un adolescent care își face temele, amândoi pe canapea, pentru a ilustra ce e efectul Eliza
Un model AI a trecut de testul Turing, în premieră mondială. Cum a reușit
Un model AI a trecut de testul Turing, în premieră mondială. Cum a reușit
Laptop deschis cu OpenAI pe ecran și un telefon cu ChatGPT pe ecran, pentru a ilustra industria pe care ChatGPT o poate schimba
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră. Pentru ce opțiune există o „cerere biblică”
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră. Pentru ce opțiune există o „cerere biblică”
RECOMANDĂRI USEIT.RO
1
Utilizator care ține în mână un telefon cu logo-ul Android pe ecran, cu semn malware pe fundal. Google avertizează acum milioane de utilizatori Android să șteargă aplicațiile periculoase
Spyware găsit pe zeci de aplicații Android. Ce utilizatori au fost afectați, potrivit experților
Guverne din mai multe țări au dezvăluit că spyware a fost găsit pe zeci de aplicații Android, care au fost descărcate deja de utilizatori.  O coaliție de guverne a publicat o listă cu aplicații...
Spyware găsit pe zeci de aplicații Android. Ce utilizatori au fost afectați, potrivit experților
2
Bill Gates, îmbrăcat în costum, pe scenă la Malaria Summit , Londra, Anglia, 2018, cu mov pe fundal. Averile lui Elon Musk, Jeff Bezos și Bill Gates sunt unele dintre cele mai mari din lume
Primul sistem de operare creat de Bill Gates și Paul Allen poate fi descărcat de oricine acum: „E cel mai cool cod pe care l-am scris vreodată
Primul sistem de operare creat de Bill Gates și Paul Allen în urmă cu 50 de ani poate fi descărcat acum de oricine, gratuit.  Bill Gates, co-fondatorul Microsoft, a sărbătorit istoria de 50 de...
Primul sistem de operare creat de Bill Gates și Paul Allen poate fi descărcat de oricine acum: „E cel mai cool cod pe care l-am scris vreodată
3
Dispozitiv Nintendo Switch, ce a vândut peste 100 de milioane de unități, în mâna unui utilizator, cu un joc pe ecran
Nintendo a dezvăluit data de lansare pentru consola Switch 2. Ce preț va avea
Nintendo a dezvăluit data de lansare pentru consola Switch 2, unul dintre cele mai așteptate dispozitive de gaming.  Data de lansare pentru noua consolă a fost confirmată recent de către Nintendo. Spre încântarea fanilor,...
Nintendo a dezvăluit data de lansare pentru consola Switch 2. Ce preț va avea
4
Laptop deschis cu OpenAI pe ecran și un telefon cu ChatGPT pe ecran, pentru a ilustra industria pe care ChatGPT o poate schimba
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră. Pentru ce opțiune există o „cerere biblică”
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră e disponibilă gratuit și a dus la o „cerere biblică”, potrivit OpenAI. ChatGPT a înregistrat o creștere record după ce a lansat...
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră. Pentru ce opțiune există o „cerere biblică”
5
Colaj cu Jeff Bezos și Elon Musk, unii dintre cei mai bogați oameni din lume. Fondatorul Amazon l-a sfătuit pe Elon Musk cu privire la sediul Twitter
Fun
Cei mai bogați oameni din lume în 2025. Câți români au ajuns pe lista miliardarilor creată de Forbes
Forbes a dezvăluit lista cu cei mai bogați oameni din lume în 2025, top în care se află și unii români, dincolo de cei mai cunoscuți miliardari din lume.  Încă din 1987, Forbes a...
Cei mai bogați oameni din lume în 2025. Câți români au ajuns pe lista miliardarilor creată de Forbes
PARTENERI
×