OpenAI avertizează că utilizatorii pot deveni dependenți emoțional de o funcție ChatGPT. Ce poate să facă

Publicat: 9 august 2024, 15:38 / Actualizat: 9 august 2024, 16:38
Reclamă

La finalul lunii iulie, OpenAI a început să introducă o interfață vocală pentru ChatGPT, ce are o voce foarte similară cu una umană. Într-o analiză de siguranță lansată recent, compania recunoaște că această voce antropomorfă ar putea atrage unii utilizatori până în punctul în care ar deveni atașați emoțional de un chatbot. 

Aceste avertismente sunt incluse în „cardul sistemului” GPT-4o. Acesta e un document tehnic care detaliază care sunt riscurile estimate de companie atunci când vine vorba de acest model, scrie Wired. 

Documentul detaliază și testele de siguranță și eforturile pe care le depune OpenAI pentru a reduce acest risc potențial.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

OpenAI avertizează că utilizatorii pot deveni dependenți emoțional de o funcție ChatGPT

În ultimele luni, OpenAI a fost criticat după ce mai mulți angajați care lucrau la gestionarea pericolului AI pe termen lung și-au dat demisia. Compania a fost acuzată că pune profitul deasupra riscurilor AI pentru societate. 

În urma acestor critici, OpenAI avertizează că utilizatorii pot deveni dependenți de o nouă funcție introdusă de model. 

Reclamă
Reclamă

În document, sunt detaliate riscurile pe care le poate introduce varianta GPT-4o. Printre acestea se numără amplificarea prejudecăților sociale, transmiterea informațiilor false și dezvoltarea armelor chimice sau biologice. Unii experți apreciază transparența OpenAI, dar încurajează compania să ofere și mai multe detalii. 

„Întrebarea consimțământului în crearea unei baze de date atât de mari, cu multiple modalități, inclusiv text, imagine și mod vocal, trebuie să fie adresată,” a declarat Lucie-Aimee Kaffee, cercetătoare în cadrul Hugging Face, companie AI. 

Noul document scoate în evidență cât de repede evoluează riscurile AI. În luna mai, compania a anunțat modul vocal. Acesta poate să răspundă rapid și să gestioneze întreruperile într-un mod natural. După lansare, actrița Scarlett Johansson a criticat compania. Pentru că OpenAI ar fi folosit o voce similară cu a ei pentru funcția vocală. 

Dar unul dintre cele mai importante elemente din acest document e faptul că OpenAI avertizează că utilizatorii pot deveni dependenți emoțional de funcția vocală. 

Oamenii pot percepe tehnologia AI în termeni umani

Se pare că problema dependenței emoționale apare atunci când utilizatorii percep inteligența emoțională în termeni umani. Se pare că acest efect, numit și efectul ELIZA, atinge un prag și mai ridicat atunci când e folosit modul vocal. 

În timpul testelor GPT-4o, cercetătorii OpenAI au observat cazuri în care conversația utilizatorilor a ridicat semne de întrebare. Aceste conversații au dat de înțeles că au o conexiune emoțională cu modelul. De exemplu, unii dintre participanți au folosit expresii precum: „Aceasta e ultima noastră zi împreună”. 

În urma acestor teste, OpenAI avertizează că utilizatorii pot deveni dependenți emoțional când folosesc acest mod vocal. De-a lungul timpului, această conexiune emoțională poate afecta relația unor utilizatori cu alte persoane.

„Utilizatorii ar putea forma relații sociale cu AI, ceea ce ar reduce nevoia lor de interacțiune umană,” scrie în document. „Ceea ce ar putea ajuta indivizii care se simt singuri, dar poate afecta relațiile sănătoase.” 

OpenAI nu e singura companie care a recunoscut riscul că asistenții AI pot mima interacțiunea umană. În aprilie, Google DeepMind a lansat o cercetare. În aceasta, compania a detaliat potențialele obstacole etice care apar în cazul asistenților AI mai capabili.

Reclamă
Te-ar mai putea interesa și
Utilizator care folosește un laptop cu ChatGPT, pe o masă, pentru a ilustra ce i-a cerut un utilizator modelului ChatGPT
ChatGPT poate face cumpărături în locul tău acum. Cum funcționează noul portofel AI și ce riscuri apar
ChatGPT poate face cumpărături în locul tău acum. Cum funcționează noul portofel AI și ce riscuri apar
Mark Zuckerberg într-un pulover gri la o conferință de presă din 2022
Fun
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
Un robot umanoid, similar cu cel pe care l-a dezvăluit Xiaomi
Agentul AI care poate da telefoane în locul tău. Cum funcționează noul sistem Google
Agentul AI care poate da telefoane în locul tău. Cum funcționează noul sistem Google
RECOMANDĂRI USEIT.RO
1
Samsung Galaxy S24 Ultra, de culoare albă, pe fundal gri
Primele informații despre seria Samsung Galaxy S27 au fost scurse pe Internet. Ce camere ar avea viitoarele smartphone-uri
Primele informații despre seria Samsung Galaxy S27 au ajuns deja pe Internet, cu detalii despre camerele dispozitivelor. Potrivit unor noi scurgeri de informații, telefoanele din viitoarea serie Galaxy S27 de la Samsung vor avea...
Primele informații despre seria Samsung Galaxy S27 au fost scurse pe Internet. Ce camere ar avea viitoarele smartphone-uri
2
Imagine cu un controller PlayStation, în fața unui panou albastru PlayStation Plus. Trei jocuri PlayStation Plus vor fi disponibile din ianuarie 2022
Jocuri PlayStation Plus din noiembrie 2026. Ce titluri vor fi disponibile
Sony a dezvăluit jocurile care vor fi disponibile în noiembrie 2026 pentru abonații PlayStation Plus. Platforma de jocuri video continuă anul cu titluri din serii cunoscute la nivel mondial, cu milioane de fani. Pentru...
Jocuri PlayStation Plus din noiembrie 2026. Ce titluri vor fi disponibile
3
Logo-urile YouTube și TikTok, ce colectează cele mai multe date ale utilizatorilor, pe ecranul unui telefon
Câte date sunt generate online în fiecare zi. Volumul e mult mai mare decât cred mulți
În contextul digital actual, puțini știu câte date sunt generate online în fiecare zi, cu miliarde de utilizatori care folosesc Internetul.  Miliarde de utilizatori folosesc Internetul în fiecare zi, ceea ce generează un volum...
Câte date sunt generate online în fiecare zi. Volumul e mult mai mare decât cred mulți
4
Mark Zuckerberg într-un pulover gri la o conferință de presă din 2022
Fun
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
Michael Dell l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume, în urma creșterii acțiunilor companiei sale.  Clasamentul celor mai bogați oameni din lume a avut numeroase schimbări în ultima...
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
5
Telefon Samsung Galaxy S2, Android, pe alb, care e la încarcat. Când vine vorba de cum poți verifica starea bateriei telefonului, există câteva trucuri simple
De ce ți se descarcă mai repede telefonul toamna și iarna. Puțini știu ce se întâmplă cu bateria
Te-ai întrebat de ce ți se descarcă mai repede telefonul toamna și iarna? Temperaturile scăzute pot avea un impact semnificativ asupra bateriilor dispozitivelor. Atunci când vine vorba de baterii, acestea sunt sensibile la schimbările...
De ce ți se descarcă mai repede telefonul toamna și iarna. Puțini știu ce se întâmplă cu bateria
PARTENERI
×