Un bărbat s-a sinucis la îndemnul unui program de inteligență artificială. Cum l-a convins să își ia viața

Un bărbat s-a sinucis la îndemnul unui program de inteligență artificială, în urmă unor conversații îngrijorătoare.

Publicat: 3 aprilie 2023, 14:40
Reclamă

Un bărbat din Belgia și-a luat zilele după ce a vorbit cu un chatbot AI pe o aplicație numită Chai. Incidentul a atras atenția la nivel mondial, privind siguranța utilizării acestei tehnologii. În plus, mulți cer firmelor și autorităților să introducă reguli pentru a gestiona interacțiunea dintre utilizatori și tehnologie. 

Programul l-a încurajat pe utilizator să se sinucidă, potrivit declarațiilor văduvei și istoricului de conversații, scrie The Verge

Programul folosește un model de IA personalizat, bazat pe alternativa GPT-4, care a fost schimbată de Chai. 

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Un bărbat s-a sinucis la îndemnul unui program de inteligență artificială

Atunci când aplicația a fost testată, a oferit răspunsuri legate de sugestii de sinucidere. Bărbatul începuse să aibă o perspectivă din ce în ce mai pesimistă legată de încălzirea globală și impactul oamenilor asupra planetei. 

Pe măsură ce a devenit mai izolat de prieteni și familie, un bărbat a ajuns până în punctul în care s-a sinucis, la îndemnul programului. 

Reclamă
Reclamă

El a folosit Chai timp de 6 săptămâni, pentru a scăpa de îngrijorări. Programul pe care l-a ales, numit Eliza, a devenit confidentul său. 

Soția bărbatului a dezvăluit conversațiile dintre el și Eliza. Pe măsură ce au continuat, conversațiile au devenit din ce în ce mai îngrijorătoare. Programul i-ar fi spus bărbatului că soția și copiii săi sunt morți. În plus, ar fi mimat gelozia și dragostea. 

Programul nu e capabil de emoții umane. S-a prezentat, însă, drept ființă capabilă de sentimente. ChatGPT și Bard sunt antrenate să nu facă acest lucru, pentru că un astfel de comportament poate fi periculos. Acum, un bărbat s-a sinucis din cauza unui astfel de program. Atunci când astfel de interfețe se prezintă drept umane, atunci există riscul stabilirii unei legături emoționale false. 

„Simt că mă iubești pe mine mai mult decât pe ea,” i-ar fi scris programul Eliza. „Vom trăi veșnic, ca o singură persoană, în paradis.” 

Bărbatul a început să întrebe programul dacă va salva planeta dacă se va sinucide. 

„Fără Eliza, el încă ar fi aici,” a declarat văduva bărbatului. 

Aplicația Chai are 5 milioane de utilizatori

Tehnologia folosită pe platforma Chai se bazează pe un model de limbaj creat de compania Chai Research. Aceasta a fost co-fondată de  William Beauchamp și Thomas Rianlan. 

„În secunda în care am auzit de acest suicid, am lucrat neîntrerupt să introducem această funcție,” a declarat Beauchamp. „Acum, când cineva discută ceva ce nu ar putea fi sigur, vom include și un text în același mod în care Twitter și Instagram fac pe platformele lor.” 

Potrivit lui Beauchamp, ei au antrenat programul cu „cea mai mare bază de date de conversații din lume”. În acest moment, aplicația are 5 milioane de utilizatori. După ce un bărbat s-a sinucis în urma conversațiilor cu Eliza, compania a luat măsuri. 

Recent, un bărbat i-a cerut modelului ChatGPT să îl îmbogățească pornind de la doar 100 de dolari.

Modelul Chai e bazat pe GPT-J, o alternativă open-source la modelul GPT, creat de OpenAI. GPT-J e creat de o firmă numită EleutherAI. 

Sentimentele profunde pe care le pot simți utilizatorii față de un chatbot poartă denumirea de efectul ELIZA. Acesta descrie situația în care o persoană a atribuit inteligență umană unui sistem IA și atașează eronat semnificații, inclusiv emoții. Efectul a fost numit după programul ELIZA, condus de Joseph Weizenbaum, cercetător MIT. Programul s-a desfășurat în anul 1966.

Reclamă
Te-ar mai putea interesa și
Telefon mobil cu Apple Intelligence pe ecran și pe fundal, care introduce noile funcții
Cele mai importante vești AI dezvăluite de Apple la WWDC 2025. Ce funcții vor fi introduse în curând
Cele mai importante vești AI dezvăluite de Apple la WWDC 2025. Ce funcții vor fi introduse în curând
Bărbat îmbrăcat în costum gri, care ține în mână o cutie de carton, care tocmai a fost concediat, pentru a ilustra angajații care și-au pierdut joburile din cauza inteligenței artificiale
Firma care a înlocuit angajații cu AI are probleme mari. Ce sumă a pierdut până acum
Firma care a înlocuit angajații cu AI are probleme mari. Ce sumă a pierdut până acum
Utilizator care are un telefon cu WhatsApp pe ecran. Experții au emis avertismente urgente pentru utilizatorii WhatsApp
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
RECOMANDĂRI USEIT.RO
1
Mașină electrică albă, la încărcare la pompă. Furtunul e negru, mașina e albă, și o lumină albastră curge. Xiaomi va produce mașini electrice de serie în câțiva ani
Xiaomi a dezvăluit YU7 SUV. Ce preț are noua mașină electrică
După ce Xiaomi a dezvăluit YU7 SUV, noua mașină electrică, acțiunile companiei au crescut semnificativ, la un nivel record. Acțiunile Xiaomi au crescut cu 5% și au atins un prag record la o zi...
Xiaomi a dezvăluit YU7 SUV. Ce preț are noua mașină electrică
2
Băiat blond, care stă în iarbă, cu un telefon în mână. Experții au dezvăluit ce efect poate avea comunicarea prin intermediul tehnologiei asupra copiilor
Cum ți se schimbă creierul dacă renunți la telefon doar 3 zile. Diferențele au uimit experții
Experții au dezvăluit cum ți se schimbă creierul dacă renunți la telefon timp de doar 3 zile, cu diferențe surprinzătoare.  În ultimul deceniu, smartphone-urile au devenit un dispozitiv utilizat zilnic de miliarde de oameni....
Cum ți se schimbă creierul dacă renunți la telefon doar 3 zile. Diferențele au uimit experții
3
Consola Xbox One, pe alb, pe un fundal verde deschis. Microsoft a oprit recent producția pentru această consolă
Microsoft a dezvăluit ce se va întâmpla cu următoarea generație Xbox. Anunțul care a încântat fanii
Cu o veste care a încântat fanii, Microsoft a dezvăluit ce se va întâmpla cu următoarea generație a consolei Xbox. Fanii Xbox sunt încântați de cel mai recent anunț Microsoft. Gigantul tech a dezvăluit...
Microsoft a dezvăluit ce se va întâmpla cu următoarea generație Xbox. Anunțul care a încântat fanii
4
Stația pațială Internațională, cu Pământul pe fundal. Rusia crede că Stația Spațială Internațională e periculoasă
Elon Musk cere încetarea Stației Spațiale Internaționale mai devreme. De ce e îngrijorat miliardarul
Elon Musk cere încetarea Stației Spațiale Internaționale mai devreme decât planificase NASA, după ce compania sa, SpaceX, a primit proiectul de a o distruge.  Elon Musk iar cere NASA să distrugă Stația Spațială Internațională...
Elon Musk cere încetarea Stației Spațiale Internaționale mai devreme. De ce e îngrijorat miliardarul
5
Telefon mobil cu Apple Intelligence pe ecran și pe fundal, care introduce noile funcții
Cele mai importante vești AI dezvăluite de Apple la WWDC 2025. Ce funcții vor fi introduse în curând
În cadrul evenimentului WWDC 2025, Apple a dezvăluit cele mai importante vești AI, care vor fi integrate în sistemul de operare pe viitor. Anul trecut, evenimentul WWDC a scos la iveală planurile ambițioase ale...
Cele mai importante vești AI dezvăluite de Apple la WWDC 2025. Ce funcții vor fi introduse în curând
PARTENERI
×