OpenAI are deja o unealtă care poate detecta AI cu o precizie de 99.9%. De ce nu a lansat-o compania până acum

OpenAI are deja o unealtă care poate detecta AI, conținut generat de ChatGPT, cu o precizie de 99.9%, dar încă nu a lansat-o până acum.

Publicat: 15 august 2024, 7:23 / Actualizat: 15 august 2024, 9:19
Reclamă

Potrivit unei investigații Wall Street Journal, OpenAI a dezvoltat un sistem de introducere a unui watermark în textul generat de ChatGPT. Și o unealtă specială care poate detecta acest conținut.

Dar există tensiuni interne în OpenAI despre posibilitatea lansării acestei funcții, scrie The Verge.

Deși lansarea acestei unelte ar fi decizia corectă, ar putea afecta profitul companiei.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

OpenAI are deja o unealtă care poate detecta AI cu o precizie de 99.9%

Sistem de watermark OpenAI e descris drept o ajustare a modului în care modelul prezice cele mai probabile cuvinte și fraze. Unele după altele. Astfel, se creează un tipar care poate fi detectat. Google a oferit o explicație mai amplă asupra procesului de watermarking pentru propriul model AI, numit Gemini.

Se pare că OpenAI are deja o unealtă care poate detecta AI, dar refuză să o lanseze, pentru că i-ar putea fi afectat profitul. Oferirea unui mod de a detecta conținutul AI poate fi de ajutor în numeroase industrii.

Reclamă
Reclamă

De exemplu, profesorii pot folosi astfel de unelte pentru a detecta AI în proiectele studenților. Potrivit raportului Wall Street Journal, acest sistem nu a afectat calitatea conținutului generat de ChatGPT. Într-un studiu cerut de companie, „oameni din întreaga lume susțin ideea unei unelte pentru a detecta AI. Cu o medie de 4 la 1”. 

După ce Wall Street Journal a publicat articolul, OpenAI a confirmat că lucrează la un astfel de sistem. Cu un mesaj scris pe propriul blog. În mesaj, compania susține că metoda lor e foarte precisă, cu o „eficiență de 99.9%”. În plus, sistemul ar fi imun la manipulări, „precum parafrazare”. OpenAI a confirmat că are deja o unealtă care poate detecta AI. Dar nu a oferit detalii despre o posibilă lansare. 

Unealta de detectare AI poate fi folositoare

OpenAI pare să fie îngrijorată că un astfel de sistem de detecție poate convinge unii utilizatori ChatGPT să renunțe la chatbot. Se pare că aproximativ 30% dintre utilizatorii intervievați ar folosi software-ul mai rar dacă ar fi implementat un sistem de watermarking. 

În ciuda acestui rezultat, cum OpenAI are deja o unealtă care poate detecta AI, mulți angajați ai companiei cred că un astfel de sistem e eficient. 

În mesajul publicat, OpenAI susține că se află în „primele etape” ale explorării posibilității de implementare a metadatelor în conținutul generat. Compania susține că e „prea devreme” pentru a-și da seama dacă un astfel de sistem ar funcționa. 

Un astfel de sistem e extrem de important în contextul actual. Hackerii deja folosesc ChatGPT pentru a-și înșela victimele. 

Mai mult, experți din cadrul Universității din San Diego au vrut să testeze noile sisteme AI recent. Ei au evaluat ELIZA (un chatbot simplu din anii 1960), GPT-3.5 și GPT-4, într-un Test Turing controlat. Participanții au avut o conversație de 5 minute, fie cu un alt om, fie cu AI. Ulterior, au decis dacă partenerul lor de conversație a fost om.

Potrivit rezultatelor cercetării, oamenii nu pot distinge între ChatGPT și o persoană, în acest test.

Reclamă
Te-ar mai putea interesa și
Bill Gates la evenimentul Sustainable Development Goals, în anul 2017. Fundal gri închis, costum negru, cămașă albastră
Fun
Programul de lucru de 2 zile va deveni o realitate în curând, susține Bill Gates. Când ar avea loc schimbarea
Programul de lucru de 2 zile va deveni o realitate în curând, susține Bill Gates. Când ar avea loc schimbarea
Bill Gates, anul 2019, pe scenă la evenimentul New York Times Dealbook, din New York. Îmbrăcat într-o bluză mov deschis, cu fundal albastru în spate. Bill Gates a vorbit despre planurile lui pentru 2022
Bill Gates a dezvăluit cele 3 joburi care nu vor fi preluate de AI. Toate celelalte sunt în pericol
Bill Gates a dezvăluit cele 3 joburi care nu vor fi preluate de AI. Toate celelalte sunt în pericol
Laptop deschis cu OpenAI pe ecran și un telefon cu ChatGPT pe ecran, pentru a ilustra industria pe care ChatGPT o poate schimba
Ce se întâmplă cu cei care folosesc ChatGPT des. Experții trag un semnal de alarmă despre efectul „bizar”
Ce se întâmplă cu cei care folosesc ChatGPT des. Experții trag un semnal de alarmă despre efectul „bizar”
RECOMANDĂRI USEIT.RO
1
Monede Bitcoin pe bancnote de 100 de dolari. Un bărbat a aruncat la gunoi o avere Bitcoin
Ce s-a întâmplat cu singura țară care a adoptat Bitcoin drept metodă legală de plată. Întreaga populație a fost afectată
Până acum, singura țară care a adoptat Bitcoin drept metodă legală de plată la nivel național a întâmpinat numeroase probleme.  În 2021, El Salvador a devenit singura țară care a acceptat oficial Bitcoin drept...
Ce s-a întâmplat cu singura țară care a adoptat Bitcoin drept metodă legală de plată. Întreaga populație a fost afectată
2
Laptop cu Microsoft Word pe ecran, similar cu alternativa gratuită DOCS
Europa lansează alternativă gratuită pentru Microsoft Word și Google Docs. Cum funcționează DOCS
Europa lansează alternativă gratuită pentru Microsoft Word și Google Docs cu noua platformă DOCS, creată în parteneriat de Franța și Germania.  Guvernele din Franța și Germania au anunțat recent DOCS. Acesta e un serviciu...
Europa lansează alternativă gratuită pentru Microsoft Word și Google Docs. Cum funcționează DOCS
3
Yangwang U9, mașină care poate sări peste obstacole, prezentată la Singapore MotorShow, ianuarie 2025, pe roșu
BYD a depășit Tesla. Ce vânzări record a avut la nivel global
Producătorul auto BYD a depășit Tesla la nivelul vânzărilor globale, cu vânzări anuale record pentru anul 2024.  BYD e un producător auto cunoscut din China. Potrivit celui mai recent raport, BYD ar fi avut...
BYD a depășit Tesla. Ce vânzări record a avut la nivel global
4
Imagine cu clădirile din New York, cer senin, care se numără printre cele mai bogate orașe din lume
Fun
Cel mai bogat oraș din lume. Aici locuiesc 350.000 de milionari și 60 de miliardari
În cel mai bogat oraș din lume locuiesc 350.000 de milionari și 60 de miliardari, potrivit celor mai recente date.  Atunci când vine vorba de cele mai bogate orașe din lume, există câteva locații...
Cel mai bogat oraș din lume. Aici locuiesc 350.000 de milionari și 60 de miliardari
5
Colaj cu iceberg și o barcă și pești de gheață, din descoperirea majoră în Oceanul Antarctic
Un ecosistem nemaivăzut a fost descoperit după ce un aisberg s-a desprins în Antarctica. Ce se ascundea în adâncuri
Un ecosistem nemaivăzut a fost descoperit după ce un aisberg enorm s-a desprins în Antarctica, una dintre regiunile cele mai afectate de încălzirea globală.  Pe 13 ianuarie 2025, un aisberg de mărimea orașului Chicago...
Un ecosistem nemaivăzut a fost descoperit după ce un aisberg s-a desprins în Antarctica. Ce se ascundea în adâncuri
PARTENERI
×