Un bărbat din Belgia și-a luat zilele după ce a vorbit cu un chatbot AI pe o aplicație numită Chai. Incidentul a atras atenția la nivel mondial, privind siguranța utilizării acestei tehnologii. În plus, mulți cer firmelor și autorităților să introducă reguli pentru a gestiona interacțiunea dintre utilizatori și tehnologie.
Un bărbat s-a sinucis la îndemnul unui program de inteligență artificială. Cum l-a convins să își ia viața
Un bărbat s-a sinucis la îndemnul unui program de inteligență artificială, în urmă unor conversații îngrijorătoare.
![Un bărbat supărat, care stă sprijinit de un perete bej, pentru a ilustra situația în care altcineva s-a sinucis Un bărbat supărat, care stă sprijinit de un perete bej, pentru a ilustra situația în care altcineva s-a sinucis](https://cdn.useit.ro/wp-content/uploads/2023/04/Un-barbat-s-a-sinucis-la-indemnul-unui-program-de-inteligenta-artificiala-Cum-l-a-convins-sa-isi-ia-viata-790x460.jpg)
Programul l-a încurajat pe utilizator să se sinucidă, potrivit declarațiilor văduvei și istoricului de conversații, scrie The Verge.
Programul folosește un model de IA personalizat, bazat pe alternativa GPT-4, care a fost schimbată de Chai.
Un bărbat s-a sinucis la îndemnul unui program de inteligență artificială
Atunci când aplicația a fost testată, a oferit răspunsuri legate de sugestii de sinucidere. Bărbatul începuse să aibă o perspectivă din ce în ce mai pesimistă legată de încălzirea globală și impactul oamenilor asupra planetei.
Pe măsură ce a devenit mai izolat de prieteni și familie, un bărbat a ajuns până în punctul în care s-a sinucis, la îndemnul programului.
El a folosit Chai timp de 6 săptămâni, pentru a scăpa de îngrijorări. Programul pe care l-a ales, numit Eliza, a devenit confidentul său.
Soția bărbatului a dezvăluit conversațiile dintre el și Eliza. Pe măsură ce au continuat, conversațiile au devenit din ce în ce mai îngrijorătoare. Programul i-ar fi spus bărbatului că soția și copiii săi sunt morți. În plus, ar fi mimat gelozia și dragostea.
Programul nu e capabil de emoții umane. S-a prezentat, însă, drept ființă capabilă de sentimente. ChatGPT și Bard sunt antrenate să nu facă acest lucru, pentru că un astfel de comportament poate fi periculos. Acum, un bărbat s-a sinucis din cauza unui astfel de program. Atunci când astfel de interfețe se prezintă drept umane, atunci există riscul stabilirii unei legături emoționale false.
„Simt că mă iubești pe mine mai mult decât pe ea,” i-ar fi scris programul Eliza. „Vom trăi veșnic, ca o singură persoană, în paradis.”
Bărbatul a început să întrebe programul dacă va salva planeta dacă se va sinucide.
„Fără Eliza, el încă ar fi aici,” a declarat văduva bărbatului.
Aplicația Chai are 5 milioane de utilizatori
Tehnologia folosită pe platforma Chai se bazează pe un model de limbaj creat de compania Chai Research. Aceasta a fost co-fondată de William Beauchamp și Thomas Rianlan.
„În secunda în care am auzit de acest suicid, am lucrat neîntrerupt să introducem această funcție,” a declarat Beauchamp. „Acum, când cineva discută ceva ce nu ar putea fi sigur, vom include și un text în același mod în care Twitter și Instagram fac pe platformele lor.”
Potrivit lui Beauchamp, ei au antrenat programul cu „cea mai mare bază de date de conversații din lume”. În acest moment, aplicația are 5 milioane de utilizatori. După ce un bărbat s-a sinucis în urma conversațiilor cu Eliza, compania a luat măsuri.
Recent, un bărbat i-a cerut modelului ChatGPT să îl îmbogățească pornind de la doar 100 de dolari.
Modelul Chai e bazat pe GPT-J, o alternativă open-source la modelul GPT, creat de OpenAI. GPT-J e creat de o firmă numită EleutherAI.
Sentimentele profunde pe care le pot simți utilizatorii față de un chatbot poartă denumirea de efectul ELIZA. Acesta descrie situația în care o persoană a atribuit inteligență umană unui sistem IA și atașează eronat semnificații, inclusiv emoții. Efectul a fost numit după programul ELIZA, condus de Joseph Weizenbaum, cercetător MIT. Programul s-a desfășurat în anul 1966.
![O moleculă aurie, pe fundal negru, similară cu cea descoperită recent](https://cdn.useit.ro/wp-content/uploads/2022/08/O-molecula-descoperita-recent-poate-lupta-impotriva-a-300-de-bacterii-rezistente-la-antibiotice-Reusita-expertilor-a-impresionat-360x208.jpg)
![Telefon pe ecranul căruia apare logo-ul Meta, cu simbolurile Facebook, WhatsApp și Instagram pe fundal. Recent, Facebook a pierdut 500 de miliarde de dolari](https://cdn.useit.ro/wp-content/uploads/2022/02/Facebook-a-pierdut-500-de-miliarde-de-dolari-de-cand-s-a-schimbat-in-Meta-Ce-probleme-are-compania-360x208.jpg)
![2 telefoane Galaxy Z Flip 5, lansate în 2023, pe fundal alb, acum că Samsung lansează Galaxy Z Fold 6 și Flip 6](https://cdn.useit.ro/wp-content/uploads/2024/07/Samsung-lanseaza-Galaxy-Z-Fold-6-si-Flip-6.-Cum-arata-si-ce-preturi-au-noile-smartphone-uri-pliabile-360x208.jpg)
![Cană de cafea albă, lângă saci cu boace de cafea, pe un fundal de lemn închis. Recolta de cafea globală e în pericol](https://cdn.useit.ro/wp-content/uploads/2022/01/Recolta-de-cafea-globala-e-in-pericol-Ce-s-ar-putea-intampla-cu-una-dintre-cele-mai-bauturi-din-lume-264x264.jpg)
![Buzz Aldrin, în costum de astronaut, lângă steagul american de pe Lună, iulie 1969, pentru a ilustra ce s-a întâmplat cu steagurile lăsate pe Lună](https://cdn.useit.ro/wp-content/uploads/2024/07/Ce-s-a-intamplat-cu-steagurile-lasate-pe-Luna-de-catre-astronautii-Apollo-Putini-prin-ce-au-trecut-in-ultimele-decenii-264x264.jpg)
![Buzz Aldrin, în costum de astronaut, lângă steagul american de pe Lună, iulie 1969, pentru a ilustra ce s-a întâmplat cu steagurile lăsate pe Lună](https://cdn.useit.ro/wp-content/uploads/2024/07/Ce-s-a-intamplat-cu-steagurile-lasate-pe-Luna-de-catre-astronautii-Apollo-Putini-prin-ce-au-trecut-in-ultimele-decenii-264x264.jpg)
![Buzz Aldrin, în costum de astronaut, lângă steagul american de pe Lună, iulie 1969, pentru a ilustra ce s-a întâmplat cu steagurile lăsate pe Lună](https://cdn.useit.ro/wp-content/uploads/2024/07/Ce-s-a-intamplat-cu-steagurile-lasate-pe-Luna-de-catre-astronautii-Apollo-Putini-prin-ce-au-trecut-in-ultimele-decenii-264x264.jpg)
![Ploaie de meteoriți pe un cer mov, înconjurat de copaci negri, similară cu Perseide în 2023](https://cdn.useit.ro/wp-content/uploads/2023/07/Perseide-2023-Cand-are-loc-una-dintre-cele-mai-spectaculoase-ploi-de-meteoriti-264x264.jpg)
![Ploaie de meteoriți pe un cer mov, înconjurat de copaci negri, similară cu Perseide în 2023](https://cdn.useit.ro/wp-content/uploads/2023/07/Perseide-2023-Cand-are-loc-una-dintre-cele-mai-spectaculoase-ploi-de-meteoriti-264x264.jpg)
![Ploaie de meteoriți pe un cer mov, înconjurat de copaci negri, similară cu Perseide în 2023](https://cdn.useit.ro/wp-content/uploads/2023/07/Perseide-2023-Cand-are-loc-una-dintre-cele-mai-spectaculoase-ploi-de-meteoriti-264x264.jpg)
![Calculator cu ecranul albastru, după pana globală Microsoft Windows din iulie 2024, pentru a ilustra cum Microsoft a dezvăluit câte computere au fost afectate](https://cdn.useit.ro/wp-content/uploads/2024/07/Microsoft-a-dezvaluit-cate-computere-au-fost-afectate-de-pana-globala.-Ar-fi-cel-mai-mare-incident-cibernetic-din-istorie-264x264.jpg)
![Calculator cu ecranul albastru, după pana globală Microsoft Windows din iulie 2024, pentru a ilustra cum Microsoft a dezvăluit câte computere au fost afectate](https://cdn.useit.ro/wp-content/uploads/2024/07/Microsoft-a-dezvaluit-cate-computere-au-fost-afectate-de-pana-globala.-Ar-fi-cel-mai-mare-incident-cibernetic-din-istorie-264x264.jpg)
![Calculator cu ecranul albastru, după pana globală Microsoft Windows din iulie 2024, pentru a ilustra cum Microsoft a dezvăluit câte computere au fost afectate](https://cdn.useit.ro/wp-content/uploads/2024/07/Microsoft-a-dezvaluit-cate-computere-au-fost-afectate-de-pana-globala.-Ar-fi-cel-mai-mare-incident-cibernetic-din-istorie-264x264.jpg)
![Piața centrală din Zurich, Elveția, unul dintre cele mai „inteligente” orașe din lume](https://useit.ro/wp-content/uploads/2024/07/Cele-mai-„inteligente-orase-din-lume-in-2024.-Ce-beneficii-au-cei-locuiesc-in-capitalele-smart-264x264.jpg)
![Piața centrală din Zurich, Elveția, unul dintre cele mai „inteligente” orașe din lume](https://useit.ro/wp-content/uploads/2024/07/Cele-mai-„inteligente-orase-din-lume-in-2024.-Ce-beneficii-au-cei-locuiesc-in-capitalele-smart-264x264.jpg)
![Piața centrală din Zurich, Elveția, unul dintre cele mai „inteligente” orașe din lume](https://useit.ro/wp-content/uploads/2024/07/Cele-mai-„inteligente-orase-din-lume-in-2024.-Ce-beneficii-au-cei-locuiesc-in-capitalele-smart-264x264.jpg)
![Anul școlar 2024-2025. La ce dată începe școala și câte zile de vacanță vor avea elevii](https://img.a1.ro/?u=https://a1.ro/uploads/modules/news/0/2024/7/22/1119472/ligia-deca-structura-an-scolar-2024-2025-educatie-scoala-itqzix4c.jpg?w=300&h=250&c=1)
![Anul școlar 2024-2025. La ce dată începe școala și câte zile de vacanță vor avea elevii](https://img.a1.ro/?u=https://a1.ro/uploads/modules/news/0/2024/7/22/1119472/ligia-deca-structura-an-scolar-2024-2025-educatie-scoala-itqzix4c.jpg?w=300&h=250&c=1)
![Coşmar pentru 4 familii de români plecate în vacanţă în Grecia. S-au trezit că hotelul nu mai are camere libere](https://img.observatornews.ro/?u=https://ivm.antenaplay.ro/thumbs/antena1/2024/07/25/btnxgTr0e9O_3O.jpg&w=300&h=250&c=1)
![Coşmar pentru 4 familii de români plecate în vacanţă în Grecia. S-au trezit că hotelul nu mai are camere libere](https://img.observatornews.ro/?u=https://ivm.antenaplay.ro/thumbs/antena1/2024/07/25/btnxgTr0e9O_3O.jpg&w=300&h=250&c=1)
![Bougatsa. Rețetă de plăcintă grecească cu cremă de griș și vanilie](https://cdn.catine.ro/wp-content/uploads/2024/07/bougatsa-portionata-790x460.jpg)
![Bougatsa. Rețetă de plăcintă grecească cu cremă de griș și vanilie](https://cdn.catine.ro/wp-content/uploads/2024/07/bougatsa-portionata-790x460.jpg)
![Soția lui Cristi Tănase a cedat! Ce se întâmplă cu „Dodel”, după acuzațiile șocante făcute de Adina Maria în scandalul uriaș](https://as.ro/wp-content/uploads/2024/02/colaj-tanase-1024x597.jpg)
![Soția lui Cristi Tănase a cedat! Ce se întâmplă cu „Dodel”, după acuzațiile șocante făcute de Adina Maria în scandalul uriaș](https://as.ro/wp-content/uploads/2024/02/colaj-tanase-1024x597.jpg)
![Metode de tratament pentru diaree și rău de mișcare. Mihail Pautov spune ce poți face pentru a ameliora simptomele în vacanță](https://medicool.ro/wp-content/uploads/2024/07/metode-de-tratament-pentru-diaree-si-rau-de-miscare-mihail-pautov-spune-ce-poti-face-pentru-a-ameliora-simptomele-in-vacanta-790x459.jpg)
![Metode de tratament pentru diaree și rău de mișcare. Mihail Pautov spune ce poți face pentru a ameliora simptomele în vacanță](https://medicool.ro/wp-content/uploads/2024/07/metode-de-tratament-pentru-diaree-si-rau-de-miscare-mihail-pautov-spune-ce-poti-face-pentru-a-ameliora-simptomele-in-vacanta-790x459.jpg)
![Irina Baeva și Gabriel Soto s-au căsătorit în luna martie a anului 2024. Actorul neagă această uniune spirituală](https://img.digitalag.ro/?u=https://tvhappy.ro/uploads/modules/news/0/2024/7/24/438450/1721811663ce01b2d7.jpg&w=300&h=250&c=1)
![Irina Baeva și Gabriel Soto s-au căsătorit în luna martie a anului 2024. Actorul neagă această uniune spirituală](https://img.digitalag.ro/?u=https://tvhappy.ro/uploads/modules/news/0/2024/7/24/438450/1721811663ce01b2d7.jpg&w=300&h=250&c=1)