OpenAI are deja o unealtă care poate detecta AI cu o precizie de 99.9%. De ce nu a lansat-o compania până acum

OpenAI are deja o unealtă care poate detecta AI, conținut generat de ChatGPT, cu o precizie de 99.9%, dar încă nu a lansat-o până acum.

Publicat: 15 august 2024, 7:23 / Actualizat: 15 august 2024, 9:19
Reclamă

Potrivit unei investigații Wall Street Journal, OpenAI a dezvoltat un sistem de introducere a unui watermark în textul generat de ChatGPT. Și o unealtă specială care poate detecta acest conținut.

Dar există tensiuni interne în OpenAI despre posibilitatea lansării acestei funcții, scrie The Verge.

Deși lansarea acestei unelte ar fi decizia corectă, ar putea afecta profitul companiei.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

OpenAI are deja o unealtă care poate detecta AI cu o precizie de 99.9%

Sistem de watermark OpenAI e descris drept o ajustare a modului în care modelul prezice cele mai probabile cuvinte și fraze. Unele după altele. Astfel, se creează un tipar care poate fi detectat. Google a oferit o explicație mai amplă asupra procesului de watermarking pentru propriul model AI, numit Gemini.

Se pare că OpenAI are deja o unealtă care poate detecta AI, dar refuză să o lanseze, pentru că i-ar putea fi afectat profitul. Oferirea unui mod de a detecta conținutul AI poate fi de ajutor în numeroase industrii.

Reclamă
Reclamă

De exemplu, profesorii pot folosi astfel de unelte pentru a detecta AI în proiectele studenților. Potrivit raportului Wall Street Journal, acest sistem nu a afectat calitatea conținutului generat de ChatGPT. Într-un studiu cerut de companie, „oameni din întreaga lume susțin ideea unei unelte pentru a detecta AI. Cu o medie de 4 la 1”. 

După ce Wall Street Journal a publicat articolul, OpenAI a confirmat că lucrează la un astfel de sistem. Cu un mesaj scris pe propriul blog. În mesaj, compania susține că metoda lor e foarte precisă, cu o „eficiență de 99.9%”. În plus, sistemul ar fi imun la manipulări, „precum parafrazare”. OpenAI a confirmat că are deja o unealtă care poate detecta AI. Dar nu a oferit detalii despre o posibilă lansare. 

Unealta de detectare AI poate fi folositoare

OpenAI pare să fie îngrijorată că un astfel de sistem de detecție poate convinge unii utilizatori ChatGPT să renunțe la chatbot. Se pare că aproximativ 30% dintre utilizatorii intervievați ar folosi software-ul mai rar dacă ar fi implementat un sistem de watermarking. 

În ciuda acestui rezultat, cum OpenAI are deja o unealtă care poate detecta AI, mulți angajați ai companiei cred că un astfel de sistem e eficient. 

În mesajul publicat, OpenAI susține că se află în „primele etape” ale explorării posibilității de implementare a metadatelor în conținutul generat. Compania susține că e „prea devreme” pentru a-și da seama dacă un astfel de sistem ar funcționa. 

Un astfel de sistem e extrem de important în contextul actual. Hackerii deja folosesc ChatGPT pentru a-și înșela victimele. 

Mai mult, experți din cadrul Universității din San Diego au vrut să testeze noile sisteme AI recent. Ei au evaluat ELIZA (un chatbot simplu din anii 1960), GPT-3.5 și GPT-4, într-un Test Turing controlat. Participanții au avut o conversație de 5 minute, fie cu un alt om, fie cu AI. Ulterior, au decis dacă partenerul lor de conversație a fost om.

Potrivit rezultatelor cercetării, oamenii nu pot distinge între ChatGPT și o persoană, în acest test.

Reclamă
Te-ar mai putea interesa și
Telefon mobil cu Apple Intelligence pe ecran și pe fundal, care introduce noile funcții
Cele mai importante vești AI dezvăluite de Apple la WWDC 2025. Ce funcții vor fi introduse în curând
Cele mai importante vești AI dezvăluite de Apple la WWDC 2025. Ce funcții vor fi introduse în curând
Bărbat îmbrăcat în costum gri, care ține în mână o cutie de carton, care tocmai a fost concediat, pentru a ilustra angajații care și-au pierdut joburile din cauza inteligenței artificiale
Firma care a înlocuit angajații cu AI are probleme mari. Ce sumă a pierdut până acum
Firma care a înlocuit angajații cu AI are probleme mari. Ce sumă a pierdut până acum
Utilizator care are un telefon cu WhatsApp pe ecran. Experții au emis avertismente urgente pentru utilizatorii WhatsApp
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
RECOMANDĂRI USEIT.RO
1
Mașină electrică albă, la încărcare la pompă. Furtunul e negru, mașina e albă, și o lumină albastră curge. Xiaomi va produce mașini electrice de serie în câțiva ani
Xiaomi a dezvăluit YU7 SUV. Ce preț are noua mașină electrică
După ce Xiaomi a dezvăluit YU7 SUV, noua mașină electrică, acțiunile companiei au crescut semnificativ, la un nivel record. Acțiunile Xiaomi au crescut cu 5% și au atins un prag record la o zi...
Xiaomi a dezvăluit YU7 SUV. Ce preț are noua mașină electrică
2
Băiat blond, care stă în iarbă, cu un telefon în mână. Experții au dezvăluit ce efect poate avea comunicarea prin intermediul tehnologiei asupra copiilor
Cum ți se schimbă creierul dacă renunți la telefon doar 3 zile. Diferențele au uimit experții
Experții au dezvăluit cum ți se schimbă creierul dacă renunți la telefon timp de doar 3 zile, cu diferențe surprinzătoare.  În ultimul deceniu, smartphone-urile au devenit un dispozitiv utilizat zilnic de miliarde de oameni....
Cum ți se schimbă creierul dacă renunți la telefon doar 3 zile. Diferențele au uimit experții
3
Consola Xbox One, pe alb, pe un fundal verde deschis. Microsoft a oprit recent producția pentru această consolă
Microsoft a dezvăluit ce se va întâmpla cu următoarea generație Xbox. Anunțul care a încântat fanii
Cu o veste care a încântat fanii, Microsoft a dezvăluit ce se va întâmpla cu următoarea generație a consolei Xbox. Fanii Xbox sunt încântați de cel mai recent anunț Microsoft. Gigantul tech a dezvăluit...
Microsoft a dezvăluit ce se va întâmpla cu următoarea generație Xbox. Anunțul care a încântat fanii
4
Stația pațială Internațională, cu Pământul pe fundal. Rusia crede că Stația Spațială Internațională e periculoasă
Elon Musk cere încetarea Stației Spațiale Internaționale mai devreme. De ce e îngrijorat miliardarul
Elon Musk cere încetarea Stației Spațiale Internaționale mai devreme decât planificase NASA, după ce compania sa, SpaceX, a primit proiectul de a o distruge.  Elon Musk iar cere NASA să distrugă Stația Spațială Internațională...
Elon Musk cere încetarea Stației Spațiale Internaționale mai devreme. De ce e îngrijorat miliardarul
5
Telefon mobil cu Apple Intelligence pe ecran și pe fundal, care introduce noile funcții
Cele mai importante vești AI dezvăluite de Apple la WWDC 2025. Ce funcții vor fi introduse în curând
În cadrul evenimentului WWDC 2025, Apple a dezvăluit cele mai importante vești AI, care vor fi integrate în sistemul de operare pe viitor. Anul trecut, evenimentul WWDC a scos la iveală planurile ambițioase ale...
Cele mai importante vești AI dezvăluite de Apple la WWDC 2025. Ce funcții vor fi introduse în curând
PARTENERI
×