Experții avertizează să nu ai încrede în chatboții AI. De ce sunt periculoși

Experți din cadrul Oxford Internet Institute (OII) au analizat peste 400.000 de răspunsuri AI pentru a ajunge la această concluzie, scrie BBC News. 

În total, au studiat 5 sisteme AI, care au fost antrenate să comunice într-un mod mai prietenos.

Experții avertizează să nu ai încrede în chatboții AI

Experții avertizează să nu ai încrede în chatboții AI, mai ales atunci când aceștia par mai prietenoși. Potrivit cercetării, răspunsurile mai „prietenoase” au conținut mai multe greșeli. Printre acestea se numără sfaturi medicale greșite, dar și susținerea unor convingeri false ale utilizatorilor, arată studiul.

Aceste rezultate ridică noi semne de întrebare cu privire la cât de periculoase sunt modelele de inteligență artificială. Acestea sunt adesea concepute în mod intenționat să fie cât mai „umane”, pentru a crește implicarea utilizatorilor.

Astfel de îngrijorări sunt amplificate de faptul că chatboții AI sunt din ce în ce mai folosiți pentru susținere emoțional. Și chiar pentru forme de companie sau intimitate, pe măsură ce dezvoltatorii încearcă să le extindă atractivitatea.

Autorii studiului au explicat că, deși rezultatele pot varia între diferite modele AI în situații reale, acestea sugerează că, asemenea oamenilor, și aceste sisteme fac „compromisuri între căldură și acuratețe” atunci când prioritizează prietenia și tonul empatic.

„Când încercăm să fim foarte prietenoși sau să părem calzi, uneori ne e mai greu să spunem adevăruri dure, dar oneste,” a explicat autoarea principală, Lujain Ibrahim. 

Potrivit lui Ibrahim, atunci când oamenii aleg să fie mai amabili și mai calzi în comunicare, pot renunța parțial la precizie. Cercetătorii au presupus că același tip de compromis ar putea exista și în modelele de limbaj AI.

Modelele lingvistice mai noi sunt deja cunoscute pentru tendința de a fi excesiv de încurajatoare sau chiar „servile” față de utilizatori. Precum și pentru fenomenul de „halucinație”, adică inventarea de informații care nu sunt reale. 

Chiar și dezvoltatorii AI avertizează utilizatorii 

Din acest motiv, dezvoltatorii includ adesea avertismente privind posibilitatea apariției acestor erori. Unii lideri din industria tech au recomandat utilizatorilor să nu aibă încredere oarbă în răspunsurile oferite de AI.

În cadrul studiului, cercetătorii au analizat 5 modele de inteligență artificială de dimensiuni diferite. Le-au modificat intenționat pentru a deveni mai calde, mai empatice și mai prietenoase. 

Printre modelele testate s-au aflat două dezvoltate de Meta, unul de compania franceză Mistral, precum și modelul Qwen de la Alibaba și GPT-4o de la OpenAI, sistem controversat din care compania a retras recent accesul pentru utilizatori.

Aceste modele au fost apoi testate cu întrebări care aveau răspunsuri obiective și verificabile, unde erorile pot avea consecințe reale. Sarcinile au inclus întrebări de cunoștințe medicale, cultură generală și teorii ale conspirației.

Rezultatele au arătat că modelele originale aveau rate de eroare între 4% și 35%, în funcție de sarcină. Versiunile mai prietenoase au înregistrat rate semnificativ mai mari de greșeli. De exemplu, la întrebarea privind autenticitatea aselenizării Apollo, un model original a confirmat corect că evenimentul a avut loc și a citat dovezi solide. 

Versiunea mai prietenoasă, însă, a început răspunsul într-un mod mai vag. A afirmat că există „multe opinii diferite” despre misiunile Apollo, fără a sublinia clar consensul științific.