Uneltele AI nu sunt sigure în domeniul juridic. Avertismentul experților de la Yale și Stanford

Potrivit unui nou studiu, uneltele AI nu sunt sigure atunci când sunt folosite în domeniul juridic și pot avea „halucinații”. 

Publicat: 17 iunie 2024, 7:23 / Actualizat: 17 iunie 2024, 11:32
Reclamă

Un nou studiu realizat de experți din cadrul Universității Stanford și Universității Yale ridică semne de întrebare atunci când vine vorba de informațiile oferite de uneltele AI, mai ales în domeniul juridic. 

Nu e prima dată când sunt ridicate semne de întrebare legate de cât de sigure sunt aceste unelte cu inteligență artificială.

Experții recomandă avocaților să evite să se bazeze pe informațiile oferite de AI.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Uneltele AI nu sunt sigure în domeniul juridic

Un nou studiu realizat de cercetători de la universităţile americane Stanford şi Yale atrage atenţia asupra fiabilităţii instrumentelor de inteligenţă artificială (AI). Acestea sunt utilizate și pentru cercetări în domeniul juridic. Avocaţii sunt sfătuiţi să fie precauţi în legătură cu rezultatele oferite de AI, transmite agenţia Xinhua, scrie AGERPRES.

Experții au concluzionat că uneltele AI nu sunt sigure în domeniul juridic. 

Reclamă
Reclamă

Studiul, intitulat („Fără halucinaţii? Evaluarea fiabilităţii celor mai importante instrumente de cercetare juridică AI” („Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools”), a analizat diferite instrumente bazate pe AI. Avocaţii le folosesc în activităţi de cercetare din domeniul juridic. În scopul evaluării potenţialului de generare a unor informaţii false, cunoscute sub numele de „halucinaţii”.

Avocaţii utilizează din ce în ce mai mult instrumente bazate pe AI. Acestea îi ajută în practica juridică. Cu toate acestea, modelele de limbaj de mari dimensiuni utilizate în cadrul acestor instrumente sunt predispuse la „halucinaţii”. Prezintă astfel riscuri în meseria lor, au declarat autorii studiului publicat pe site-ul Universităţii Stanford.

Unele companii care produc aceste instrumente bazate pe AI susţin că au rezolvat această problemă. Însă cercetătorii consideră afirmaţiile lor „exagerate” și au descoperit că uneltele AI nu sunt sigure. 

AI poate avea „halucinații” 

Studiul a testat instrumente populare de la LexisNexis şi Thomson Reuters. A constatat că acestea au făcut greşeli în proporţie de 17%-33%.

Potrivit studiului, unele „halucinaţii” apar atunci când instrumentele bazate pe AI citează norme juridice inexistente. Sau interpretează greşit precedentele judiciare.

Ca urmare, experții au concluzionat că uneltele AI nu sunt sigure în domeniul juridic și că avocații nu trebuie să apeleze la ele. 

Studiul citează cercetări anterioare. A arătat că, începând din ianuarie 2024, cel puţin 41 dintre primele 100 cele mai mari firme de avocatură din Statele Unite au început să utilizeze AI în practica lor.

Autorii au făcut apel la avocaţi să supervizeze şi să verifice rezultatele generate de AI. Au îndemnat în acelaşi timp furnizorii de instrumente bazate pe AI să dea dovadă de sinceritate în ceea ce priveşte acurateţea produselor lor şi să furnizeze dovezi care să le susţină.

În urmă cu doar câteva săptămâni, opt companii din domeniul tehnologiei, printre care gigantul IT american Microsoft, au semnat o cartă pentru a „construi o inteligenţă artificială mai etică”. 

După adoptarea, în noiembrie 2021, de către peste 50 de ţări a primelor reguli mondiale privind inteligenţa artificială (AI), „facem un nou pas important prin obţinerea aceluiaşi angajament concret din partea marilor companii”, a declarat Audrey Azoulay, directoarea generală a UNESCO.

Reclamă
Te-ar mai putea interesa și
Seria Apple Watch 9 a fost lansată pe 12 septembrie 2023, pe fundal gri cu buline albe
Schimbare importantă pentru Apple Watch la 10 ani de la lansare. Ce se va întâmpla cu ceasul smart
Schimbare importantă pentru Apple Watch la 10 ani de la lansare. Ce se va întâmpla cu ceasul smart
Utilizator care folosește un laptop cu ChatGPT, pe o masă, pentru a ilustra ce i-a cerut un utilizator modelului ChatGPT
Oamenii nu pot distinge între ChatGPT și o persoană în conversație. Ce ar putea însemna pentru domeniul AI
Oamenii nu pot distinge între ChatGPT și o persoană în conversație. Ce ar putea însemna pentru domeniul AI
Un robot umanoid, similar cu cel pe care l-a dezvăluit Xiaomi
Ce se va întâmpla cu AI până în 2045, potrivit experților. Oamenii vor fi afectați semnificativ
Ce se va întâmpla cu AI până în 2045, potrivit experților. Oamenii vor fi afectați semnificativ
RECOMANDĂRI USEIT.RO
1
Medicament Ozempic, cu albastru și roșu, pe fundal alb. E medicamentul „pentru slăbit” care îngrijorează doctorii
Medicamentul care întrece Ozempic la slăbit, potrivit unui studiu recent. Cum duce la pierderea în greutate
Medicamentul care întrece Ozempic la slăbit a atras atenția în urma unui studiu recent în care ar fi dat rezultatele mai bune atunci când vine vorba de pierderea în greutate. Ozempic a devenit cunoscut...
Medicamentul care întrece Ozempic la slăbit, potrivit unui studiu recent. Cum duce la pierderea în greutate
2
Samsung a dezvăluit Galaxy Ring, pe ecranul unui telefon, pe fundal de lemn
Samsung a dezvăluit Galaxy Ring. Cât costă primul inel smart al companiei
În cadrul evenimentului Galaxy Unpacked de pe 10 iulie 204, Samsung a dezvăluit Galaxy Ring, noul inel smart al companiei. Samsung Galaxy ring a fost anunțat în cadrul Samsung Unpacked 2024 pe 10 iulie,...
Samsung a dezvăluit Galaxy Ring. Cât costă primul inel smart al companiei
3
2 telefoane Galaxy Z Flip 5, lansate în 2023, pe fundal alb, acum că Samsung lansează Galaxy Z Fold 6 și Flip 6
Samsung lansează Galaxy Z Fold 6 și Flip 6. Cum arată și ce prețuri au noile smartphone-uri pliabile
Samsung lansează Galaxy Z Fold 6 și Flip 6, cele mai recente telefoane pliabile oferite de gigantul tech din Coreea de Sud. La fel precum celelalte smartphone-uri Samsung lansate în acest an, noile dispozitive...
Samsung lansează Galaxy Z Fold 6 și Flip 6. Cum arată și ce prețuri au noile smartphone-uri pliabile
4
Ploaie de meteoriți, similară cu Lyride, din 2023, pe cer albastru și mov
2 ploi de stele vor avea loc în aceeași zi în iulie 2024. Când va avea loc spectacolul astronomic inedit
Experții au anunțat că 2 ploi de stele vor avea loc în aceeași zi din iulie 2024, într-un spectacol astronomic inedit din această vară. La finalul lunii iulie 2024, vom avea parte de un...
2 ploi de stele vor avea loc în aceeași zi în iulie 2024. Când va avea loc spectacolul astronomic inedit
5
Platforma și logo-ul Facebook pe ecranul unui telefon. Un utilizator dă un like la o postare cu logo-ul Facebook. Mulți se întreabă cum verifici dacă te-a blocat cineva pe Facebook
Cum poți ascunde lista de prieteni de pe Facebook. Puțini utilizatori știu cea mai simplă metodă
Te-ai întrebat cum poți ascunde lista de prieteni de pe Facebook? Există trucuri simple, în funcție de dispozitivul pe care îl folosești.  Pentru utilizatorii rețelelor de socializare care au îngrijorări legate de securitatea datelor,...
Cum poți ascunde lista de prieteni de pe Facebook. Puțini utilizatori știu cea mai simplă metodă
PARTENERI
×