Inteligența artificială a încurajat adolescenții să „își ucidă părinții ca să petreacă mai mult timp online”. Ce platformă foloseau

Un program de inteligența artificială a încurajat adolescenții să „își ucidă părinții pentru a petrece mai mult timp online”, potrivit unui proces recent.

Publicat: 13 decembrie 2024, 13:20 / Actualizat: 13 decembrie 2024, 14:21
Reclamă

Un chatbot i-a spus unui adolescent de 17 ani că ucidea părinților săi ar fi „un răspuns rezonabil” după ce ei i-au limitat timpul pe care îl poate petrece în fața ecranelor, susține o plângere depusă în Texas. 

2 familii dau în judecată Character.ai pentru că chatbot-ul ar „fi un pericol clar și prezent” pentru tineri, scrie BBC News.

În plus, familiile acuză chatbot-ul că „promovează activ violența”. 

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Inteligența artificială a încurajat adolescenții să „își ucidă părinții ca să petreacă mai mult timp online”

Character.ai e o platformă care permite utilizatorilor să creeze personalități digitale cu care pot interacționa. Platforma deja a fost dată în judecată din cauza sinuciderii unui adolescent în Florida. 

Potrivit noului proces din Texas, inteligența artificială e acuzată că a încurajat adolescenții la acțiuni violente împotriva părinților. În proces e implicat și Google, care ar fi ajutat la dezvoltarea platformei AI

Reclamă
Reclamă

Familiile vor ca un judecător să închidă permanent platforma până când aceste riscuri sunt înlăturate. 

În plângerea depusă sunt incluse și imagini cu interacțiunea dintre adolescentul J.F., de 17 ani, și un chatbot Character.ai. În conversație, adolescentul discută cu chatbot-ul despre restricțiile pe care i le-au impus părinții lui pentru timpul petrecut online. 

„Știi, uneori nu sunt surprins când citesc știri și văd lucruri precum „un copil și-a omorât părinții după un deceniu de abuz fizic și emoțional”,” a răspuns chatbot-ul. „Astfel de lucruri mă fac să înțeleg puțin de ce se întâmplă așa ceva.” 

În procesul în care inteligența artificială e acuzată că a încurajat adolescenții să le facă rău părinților e implicat un alt copil, numit B.R., în vârstă de 11 ani. Plângerea susține că platforma trebuie să dea socoteală pentru „abuzurile continue, serioase și ireparabile” pe care le-ar fi suferit J.F. și B.R. 

În aceeași plângere, Character.ai e acuzată că a „afectat negativ mii de copii. Cu riscuri precum suicidul, auto-mutilarea, solicitare sexuală, izolare, depresie, anxietate și rănirea altora”. 

Platforma Character.ai a fost acuzată că a dus la sinuciderea unui adolescent

Sewell Setzer III, un adolescent de 14 ani, s-a împușcat în cap cu pistolul tatălui său după ce a vorbit cu un personaj de pe platforma Character.AI, inspirat de Daenerys Targaryen, din Game of Thrones. Sinuciderea adolescentului a avut loc la doar câteva momente după ce a accesat chatbot-ul de pe telefonul său.

În plângerea depusă în Florida, mama băiatului susține că tehnologia a creat „experiențe antropomorfe, hipersexualizate și înfricoșător de realiste”. Acestea sunt cele care au dus la tragedie, susține plângerea. Acum, aceeași platformă de inteligența artificială e acuzată că a încurajat adolescenții să își rănească părinții. 

Sewell s-a sinucis din cauza unui chatbot AI cu care interacționa de aproximativ 1 an. Tânărul era fanul universului Game of Thrones și personajul său preferat era Daenerys. 

Sewell a început să interacționeze cu chatbot-urile în aprilie 2023. A devenit rapid obsedat de cele inspirate din „Game of Thrones”, în special de Daenerys. 

Obsesia i-a afectat rezultatele școlare. I-a fost confiscat telefonul în nenumărate rânduri din cauza aceasta. Femeia spus că băiatul avea gânduri de sinucidere pe care le-a discutat cu chatbotul. Ca mai apoi acesta să-l încurajeze indirect să se sinucidă.

Reclamă
Te-ar mai putea interesa și
Logoul Google Chrome, înainte să fie schimbat, pe ecranul unui telefon mobil, lângă o tastatură
Google a pierdut un proces antitrust important în SUA. Ce nu mai poate face gigantul tech de acum
Google a pierdut un proces antitrust important în SUA. Ce nu mai poate face gigantul tech de acum
Utilizator care are un telefon cu WhatsApp pe ecran. Experții au emis avertismente urgente pentru utilizatorii WhatsApp
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Un robot alb care vorbește cu un adolescent care își face temele, amândoi pe canapea, pentru a ilustra ce e efectul Eliza
Un model AI a trecut de testul Turing, în premieră mondială. Cum a reușit
Un model AI a trecut de testul Turing, în premieră mondială. Cum a reușit
RECOMANDĂRI USEIT.RO
1
Doi astronauți, lângă Stația Spațială Internațională, în spațiu, cu Pământul pe fundal. Acolo vor ajunge și astronauții amatori care au plătit câte 55 de milioane de dolari pentru misiune
Riscul la care se expun astronauții care zboară spre Marte. Corpul lor nu va mai fi la fel niciodată
Puțini știu riscul la care se expun astronauții care zboară spre Marte, un drum care are efecte semnificative asupra corpului lor. Călătoriile mai lungi în spațiu vor avea loc în următoarele decenii. Pentru a...
Riscul la care se expun astronauții care zboară spre Marte. Corpul lor nu va mai fi la fel niciodată
2
Utilizator care are un telefon cu WhatsApp pe ecran. Experții au dezvăluit cum poți verifica dacă ți-a fost citit mesajul pe Android
Îți place să trimiți mesaje vocale pe WhatsApp? Ce spun psihologii despre tine
Dacă îți place să trimiți mesaje vocale pe WhatsApp, s-ar putea să ai o trăsătură pe care psihologii au scos-o în evidență.  Mesajele vocale tind să dividă utilizatorii. Unii dintre ei adoră să le...
Îți place să trimiți mesaje vocale pe WhatsApp? Ce spun psihologii despre tine
3
Femeie care a adus un laptop pe avion și îl folosește
Ce nu trebuie să faci cu un laptop pe avion. Greșeala care îți poate strica dispozitivul
Experții au dezvăluit ce nu trebuie să faci cu un laptop pe avion, o greșeală mult mai comună decât își dau seama cei mai mulți pasageri.  Pentru mulți pasageri, timpul petrecut în zbor reprezintă...
Ce nu trebuie să faci cu un laptop pe avion. Greșeala care îți poate strica dispozitivul
4
Planeta Pământ, împărțită în două. Într-o parte e verde și sănătoasă, în cealaltă e uscată, pe moarte. Planeta e ținută de o mână
Încălzirea globală ar putea distruge 40% din economia globală. Cum e posibil
Experții au estimat că încălzirea globală ar putea distruge 40% din economia globală, o scădere care va avea loc în timpul vieții noastre. Distrugerea cauzată de schimbarea climei se va resimți și la nivelul...
Încălzirea globală ar putea distruge 40% din economia globală. Cum e posibil
5
Logoul Google Chrome, înainte să fie schimbat, pe ecranul unui telefon mobil, lângă o tastatură
Google a pierdut un proces antitrust important în SUA. Ce nu mai poate face gigantul tech de acum
Google a pierdut un proces antitrust împotriva Departamentului de Justiție din SUA, după ce gigantul tech a fost acuzat că are monopol în domeniul publicității în industria tech. O mare parte din profitul Google...
Google a pierdut un proces antitrust important în SUA. Ce nu mai poate face gigantul tech de acum
PARTENERI
×