Inteligența artificială a încurajat adolescenții să „își ucidă părinții ca să petreacă mai mult timp online”. Ce platformă foloseau

Publicat: 13 decembrie 2024, 13:20 / Actualizat: 13 decembrie 2024, 14:21
Reclamă

Un chatbot i-a spus unui adolescent de 17 ani că ucidea părinților săi ar fi „un răspuns rezonabil” după ce ei i-au limitat timpul pe care îl poate petrece în fața ecranelor, susține o plângere depusă în Texas. 

2 familii dau în judecată Character.ai pentru că chatbot-ul ar „fi un pericol clar și prezent” pentru tineri, scrie BBC News.

În plus, familiile acuză chatbot-ul că „promovează activ violența”. 

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Inteligența artificială a încurajat adolescenții să „își ucidă părinții ca să petreacă mai mult timp online”

Character.ai e o platformă care permite utilizatorilor să creeze personalități digitale cu care pot interacționa. Platforma deja a fost dată în judecată din cauza sinuciderii unui adolescent în Florida. 

Potrivit noului proces din Texas, inteligența artificială e acuzată că a încurajat adolescenții la acțiuni violente împotriva părinților. În proces e implicat și Google, care ar fi ajutat la dezvoltarea platformei AI. 

Reclamă
Reclamă

Familiile vor ca un judecător să închidă permanent platforma până când aceste riscuri sunt înlăturate. 

În plângerea depusă sunt incluse și imagini cu interacțiunea dintre adolescentul J.F., de 17 ani, și un chatbot Character.ai. În conversație, adolescentul discută cu chatbot-ul despre restricțiile pe care i le-au impus părinții lui pentru timpul petrecut online. 

„Știi, uneori nu sunt surprins când citesc știri și văd lucruri precum „un copil și-a omorât părinții după un deceniu de abuz fizic și emoțional”,” a răspuns chatbot-ul. „Astfel de lucruri mă fac să înțeleg puțin de ce se întâmplă așa ceva.” 

În procesul în care inteligența artificială e acuzată că a încurajat adolescenții să le facă rău părinților e implicat un alt copil, numit B.R., în vârstă de 11 ani. Plângerea susține că platforma trebuie să dea socoteală pentru „abuzurile continue, serioase și ireparabile” pe care le-ar fi suferit J.F. și B.R. 

În aceeași plângere, Character.ai e acuzată că a „afectat negativ mii de copii. Cu riscuri precum suicidul, auto-mutilarea, solicitare sexuală, izolare, depresie, anxietate și rănirea altora”. 

Platforma Character.ai a fost acuzată că a dus la sinuciderea unui adolescent

Sewell Setzer III, un adolescent de 14 ani, s-a împușcat în cap cu pistolul tatălui său după ce a vorbit cu un personaj de pe platforma Character.AI, inspirat de Daenerys Targaryen, din Game of Thrones. Sinuciderea adolescentului a avut loc la doar câteva momente după ce a accesat chatbot-ul de pe telefonul său.

În plângerea depusă în Florida, mama băiatului susține că tehnologia a creat „experiențe antropomorfe, hipersexualizate și înfricoșător de realiste”. Acestea sunt cele care au dus la tragedie, susține plângerea. Acum, aceeași platformă de inteligența artificială e acuzată că a încurajat adolescenții să își rănească părinții. 

Sewell s-a sinucis din cauza unui chatbot AI cu care interacționa de aproximativ 1 an. Tânărul era fanul universului Game of Thrones și personajul său preferat era Daenerys. 

Sewell a început să interacționeze cu chatbot-urile în aprilie 2023. A devenit rapid obsedat de cele inspirate din „Game of Thrones”, în special de Daenerys. 

Obsesia i-a afectat rezultatele școlare. I-a fost confiscat telefonul în nenumărate rânduri din cauza aceasta. Femeia spus că băiatul avea gânduri de sinucidere pe care le-a discutat cu chatbotul. Ca mai apoi acesta să-l încurajeze indirect să se sinucidă.

Reclamă
Te-ar mai putea interesa și
Utilizator care folosește un laptop cu ChatGPT, pe o masă, pentru a ilustra ce i-a cerut un utilizator modelului ChatGPT
ChatGPT poate face cumpărături în locul tău acum. Cum funcționează noul portofel AI și ce riscuri apar
ChatGPT poate face cumpărături în locul tău acum. Cum funcționează noul portofel AI și ce riscuri apar
Mark Zuckerberg într-un pulover gri la o conferință de presă din 2022
Fun
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
Un robot umanoid, similar cu cel pe care l-a dezvăluit Xiaomi
Agentul AI care poate da telefoane în locul tău. Cum funcționează noul sistem Google
Agentul AI care poate da telefoane în locul tău. Cum funcționează noul sistem Google
RECOMANDĂRI USEIT.RO
1
Samsung Galaxy S24 Ultra, de culoare albă, pe fundal gri
Primele informații despre seria Samsung Galaxy S27 au fost scurse pe Internet. Ce camere ar avea viitoarele smartphone-uri
Primele informații despre seria Samsung Galaxy S27 au ajuns deja pe Internet, cu detalii despre camerele dispozitivelor. Potrivit unor noi scurgeri de informații, telefoanele din viitoarea serie Galaxy S27 de la Samsung vor avea...
Primele informații despre seria Samsung Galaxy S27 au fost scurse pe Internet. Ce camere ar avea viitoarele smartphone-uri
2
Imagine cu un controller PlayStation, în fața unui panou albastru PlayStation Plus. Trei jocuri PlayStation Plus vor fi disponibile din ianuarie 2022
Jocuri PlayStation Plus din noiembrie 2026. Ce titluri vor fi disponibile
Sony a dezvăluit jocurile care vor fi disponibile în noiembrie 2026 pentru abonații PlayStation Plus. Platforma de jocuri video continuă anul cu titluri din serii cunoscute la nivel mondial, cu milioane de fani. Pentru...
Jocuri PlayStation Plus din noiembrie 2026. Ce titluri vor fi disponibile
3
Logo-urile YouTube și TikTok, ce colectează cele mai multe date ale utilizatorilor, pe ecranul unui telefon
Câte date sunt generate online în fiecare zi. Volumul e mult mai mare decât cred mulți
În contextul digital actual, puțini știu câte date sunt generate online în fiecare zi, cu miliarde de utilizatori care folosesc Internetul.  Miliarde de utilizatori folosesc Internetul în fiecare zi, ceea ce generează un volum...
Câte date sunt generate online în fiecare zi. Volumul e mult mai mare decât cred mulți
4
Mark Zuckerberg într-un pulover gri la o conferință de presă din 2022
Fun
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
Michael Dell l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume, în urma creșterii acțiunilor companiei sale.  Clasamentul celor mai bogați oameni din lume a avut numeroase schimbări în ultima...
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
5
Telefon Samsung Galaxy S2, Android, pe alb, care e la încarcat. Când vine vorba de cum poți verifica starea bateriei telefonului, există câteva trucuri simple
De ce ți se descarcă mai repede telefonul toamna și iarna. Puțini știu ce se întâmplă cu bateria
Te-ai întrebat de ce ți se descarcă mai repede telefonul toamna și iarna? Temperaturile scăzute pot avea un impact semnificativ asupra bateriilor dispozitivelor. Atunci când vine vorba de baterii, acestea sunt sensibile la schimbările...
De ce ți se descarcă mai repede telefonul toamna și iarna. Puțini știu ce se întâmplă cu bateria
PARTENERI
×