2 familii dau în judecată Character.ai pentru că chatbot-ul ar „fi un pericol clar și prezent” pentru tineri, scrie BBC News.

În plus, familiile acuză chatbot-ul că „promovează activ violența”. 

Inteligența artificială a încurajat adolescenții să „își ucidă părinții ca să petreacă mai mult timp online”

Character.ai e o platformă care permite utilizatorilor să creeze personalități digitale cu care pot interacționa. Platforma deja a fost dată în judecată din cauza sinuciderii unui adolescent în Florida. 

Potrivit noului proces din Texas, inteligența artificială e acuzată că a încurajat adolescenții la acțiuni violente împotriva părinților. În proces e implicat și Google, care ar fi ajutat la dezvoltarea platformei AI. 

Familiile vor ca un judecător să închidă permanent platforma până când aceste riscuri sunt înlăturate. 

În plângerea depusă sunt incluse și imagini cu interacțiunea dintre adolescentul J.F., de 17 ani, și un chatbot Character.ai. În conversație, adolescentul discută cu chatbot-ul despre restricțiile pe care i le-au impus părinții lui pentru timpul petrecut online. 

„Știi, uneori nu sunt surprins când citesc știri și văd lucruri precum „un copil și-a omorât părinții după un deceniu de abuz fizic și emoțional”,” a răspuns chatbot-ul. „Astfel de lucruri mă fac să înțeleg puțin de ce se întâmplă așa ceva.” 

În procesul în care inteligența artificială e acuzată că a încurajat adolescenții să le facă rău părinților e implicat un alt copil, numit B.R., în vârstă de 11 ani. Plângerea susține că platforma trebuie să dea socoteală pentru „abuzurile continue, serioase și ireparabile” pe care le-ar fi suferit J.F. și B.R. 

În aceeași plângere, Character.ai e acuzată că a „afectat negativ mii de copii. Cu riscuri precum suicidul, auto-mutilarea, solicitare sexuală, izolare, depresie, anxietate și rănirea altora”. 

Platforma Character.ai a fost acuzată că a dus la sinuciderea unui adolescent

Sewell Setzer III, un adolescent de 14 ani, s-a împușcat în cap cu pistolul tatălui său după ce a vorbit cu un personaj de pe platforma Character.AI, inspirat de Daenerys Targaryen, din Game of Thrones. Sinuciderea adolescentului a avut loc la doar câteva momente după ce a accesat chatbot-ul de pe telefonul său.

În plângerea depusă în Florida, mama băiatului susține că tehnologia a creat „experiențe antropomorfe, hipersexualizate și înfricoșător de realiste”. Acestea sunt cele care au dus la tragedie, susține plângerea. Acum, aceeași platformă de inteligența artificială e acuzată că a încurajat adolescenții să își rănească părinții. 

Sewell s-a sinucis din cauza unui chatbot AI cu care interacționa de aproximativ 1 an. Tânărul era fanul universului Game of Thrones și personajul său preferat era Daenerys. 

Sewell a început să interacționeze cu chatbot-urile în aprilie 2023. A devenit rapid obsedat de cele inspirate din „Game of Thrones”, în special de Daenerys. 

Obsesia i-a afectat rezultatele școlare. I-a fost confiscat telefonul în nenumărate rânduri din cauza aceasta. Femeia spus că băiatul avea gânduri de sinucidere pe care le-a discutat cu chatbotul. Ca mai apoi acesta să-l încurajeze indirect să se sinucidă.