Uneltele AI nu sunt sigure în domeniul juridic. Avertismentul experților de la Yale și Stanford

Publicat: 17 iunie 2024, 7:23 / Actualizat: 17 iunie 2024, 11:32
Reclamă

Un nou studiu realizat de experți din cadrul Universității Stanford și Universității Yale ridică semne de întrebare atunci când vine vorba de informațiile oferite de uneltele AI, mai ales în domeniul juridic. 

Nu e prima dată când sunt ridicate semne de întrebare legate de cât de sigure sunt aceste unelte cu inteligență artificială.

Experții recomandă avocaților să evite să se bazeze pe informațiile oferite de AI.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Uneltele AI nu sunt sigure în domeniul juridic

Un nou studiu realizat de cercetători de la universităţile americane Stanford şi Yale atrage atenţia asupra fiabilităţii instrumentelor de inteligenţă artificială (AI). Acestea sunt utilizate și pentru cercetări în domeniul juridic. Avocaţii sunt sfătuiţi să fie precauţi în legătură cu rezultatele oferite de AI, transmite agenţia Xinhua, scrie AGERPRES.

Experții au concluzionat că uneltele AI nu sunt sigure în domeniul juridic. 

Reclamă
Reclamă

Studiul, intitulat („Fără halucinaţii? Evaluarea fiabilităţii celor mai importante instrumente de cercetare juridică AI” („Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools”), a analizat diferite instrumente bazate pe AI. Avocaţii le folosesc în activităţi de cercetare din domeniul juridic. În scopul evaluării potenţialului de generare a unor informaţii false, cunoscute sub numele de „halucinaţii”.

Avocaţii utilizează din ce în ce mai mult instrumente bazate pe AI. Acestea îi ajută în practica juridică. Cu toate acestea, modelele de limbaj de mari dimensiuni utilizate în cadrul acestor instrumente sunt predispuse la „halucinaţii”. Prezintă astfel riscuri în meseria lor, au declarat autorii studiului publicat pe site-ul Universităţii Stanford.

Unele companii care produc aceste instrumente bazate pe AI susţin că au rezolvat această problemă. Însă cercetătorii consideră afirmaţiile lor „exagerate” și au descoperit că uneltele AI nu sunt sigure. 

AI poate avea „halucinații” 

Studiul a testat instrumente populare de la LexisNexis şi Thomson Reuters. A constatat că acestea au făcut greşeli în proporţie de 17%-33%.

Potrivit studiului, unele „halucinaţii” apar atunci când instrumentele bazate pe AI citează norme juridice inexistente. Sau interpretează greşit precedentele judiciare.

Ca urmare, experții au concluzionat că uneltele AI nu sunt sigure în domeniul juridic și că avocații nu trebuie să apeleze la ele. 

Studiul citează cercetări anterioare. A arătat că, începând din ianuarie 2024, cel puţin 41 dintre primele 100 cele mai mari firme de avocatură din Statele Unite au început să utilizeze AI în practica lor.

Autorii au făcut apel la avocaţi să supervizeze şi să verifice rezultatele generate de AI. Au îndemnat în acelaşi timp furnizorii de instrumente bazate pe AI să dea dovadă de sinceritate în ceea ce priveşte acurateţea produselor lor şi să furnizeze dovezi care să le susţină.

În urmă cu doar câteva săptămâni, opt companii din domeniul tehnologiei, printre care gigantul IT american Microsoft, au semnat o cartă pentru a „construi o inteligenţă artificială mai etică”. 

După adoptarea, în noiembrie 2021, de către peste 50 de ţări a primelor reguli mondiale privind inteligenţa artificială (AI), „facem un nou pas important prin obţinerea aceluiaşi angajament concret din partea marilor companii”, a declarat Audrey Azoulay, directoarea generală a UNESCO.

Reclamă
Te-ar mai putea interesa și
Utilizator care folosește un laptop cu ChatGPT, pe o masă, pentru a ilustra ce i-a cerut un utilizator modelului ChatGPT
ChatGPT poate face cumpărături în locul tău acum. Cum funcționează noul portofel AI și ce riscuri apar
ChatGPT poate face cumpărături în locul tău acum. Cum funcționează noul portofel AI și ce riscuri apar
Mark Zuckerberg într-un pulover gri la o conferință de presă din 2022
Fun
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
Un robot umanoid, similar cu cel pe care l-a dezvăluit Xiaomi
Agentul AI care poate da telefoane în locul tău. Cum funcționează noul sistem Google
Agentul AI care poate da telefoane în locul tău. Cum funcționează noul sistem Google
RECOMANDĂRI USEIT.RO
1
Samsung Galaxy S24 Ultra, de culoare albă, pe fundal gri
Primele informații despre seria Samsung Galaxy S27 au fost scurse pe Internet. Ce camere ar avea viitoarele smartphone-uri
Primele informații despre seria Samsung Galaxy S27 au ajuns deja pe Internet, cu detalii despre camerele dispozitivelor. Potrivit unor noi scurgeri de informații, telefoanele din viitoarea serie Galaxy S27 de la Samsung vor avea...
Primele informații despre seria Samsung Galaxy S27 au fost scurse pe Internet. Ce camere ar avea viitoarele smartphone-uri
2
Imagine cu un controller PlayStation, în fața unui panou albastru PlayStation Plus. Trei jocuri PlayStation Plus vor fi disponibile din ianuarie 2022
Jocuri PlayStation Plus din noiembrie 2026. Ce titluri vor fi disponibile
Sony a dezvăluit jocurile care vor fi disponibile în noiembrie 2026 pentru abonații PlayStation Plus. Platforma de jocuri video continuă anul cu titluri din serii cunoscute la nivel mondial, cu milioane de fani. Pentru...
Jocuri PlayStation Plus din noiembrie 2026. Ce titluri vor fi disponibile
3
Logo-urile YouTube și TikTok, ce colectează cele mai multe date ale utilizatorilor, pe ecranul unui telefon
Câte date sunt generate online în fiecare zi. Volumul e mult mai mare decât cred mulți
În contextul digital actual, puțini știu câte date sunt generate online în fiecare zi, cu miliarde de utilizatori care folosesc Internetul.  Miliarde de utilizatori folosesc Internetul în fiecare zi, ceea ce generează un volum...
Câte date sunt generate online în fiecare zi. Volumul e mult mai mare decât cred mulți
4
Mark Zuckerberg într-un pulover gri la o conferință de presă din 2022
Fun
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
Michael Dell l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume, în urma creșterii acțiunilor companiei sale.  Clasamentul celor mai bogați oameni din lume a avut numeroase schimbări în ultima...
Miliardarul care l-a depășit pe Mark Zuckerberg în topul celor mai bogați oameni din lume. Ce avere fantastică are Michael Dell
5
Telefon Samsung Galaxy S2, Android, pe alb, care e la încarcat. Când vine vorba de cum poți verifica starea bateriei telefonului, există câteva trucuri simple
De ce ți se descarcă mai repede telefonul toamna și iarna. Puțini știu ce se întâmplă cu bateria
Te-ai întrebat de ce ți se descarcă mai repede telefonul toamna și iarna? Temperaturile scăzute pot avea un impact semnificativ asupra bateriilor dispozitivelor. Atunci când vine vorba de baterii, acestea sunt sensibile la schimbările...
De ce ți se descarcă mai repede telefonul toamna și iarna. Puțini știu ce se întâmplă cu bateria
PARTENERI
×