OpenAI are deja o unealtă care poate detecta AI cu o precizie de 99.9%. De ce nu a lansat-o compania până acum

OpenAI are deja o unealtă care poate detecta AI, conținut generat de ChatGPT, cu o precizie de 99.9%, dar încă nu a lansat-o până acum.

Publicat: 15 august 2024, 7:23 / Actualizat: 15 august 2024, 9:19
Reclamă

Potrivit unei investigații Wall Street Journal, OpenAI a dezvoltat un sistem de introducere a unui watermark în textul generat de ChatGPT. Și o unealtă specială care poate detecta acest conținut.

Dar există tensiuni interne în OpenAI despre posibilitatea lansării acestei funcții, scrie The Verge.

Deși lansarea acestei unelte ar fi decizia corectă, ar putea afecta profitul companiei.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

OpenAI are deja o unealtă care poate detecta AI cu o precizie de 99.9%

Sistem de watermark OpenAI e descris drept o ajustare a modului în care modelul prezice cele mai probabile cuvinte și fraze. Unele după altele. Astfel, se creează un tipar care poate fi detectat. Google a oferit o explicație mai amplă asupra procesului de watermarking pentru propriul model AI, numit Gemini.

Se pare că OpenAI are deja o unealtă care poate detecta AI, dar refuză să o lanseze, pentru că i-ar putea fi afectat profitul. Oferirea unui mod de a detecta conținutul AI poate fi de ajutor în numeroase industrii.

Reclamă
Reclamă

De exemplu, profesorii pot folosi astfel de unelte pentru a detecta AI în proiectele studenților. Potrivit raportului Wall Street Journal, acest sistem nu a afectat calitatea conținutului generat de ChatGPT. Într-un studiu cerut de companie, „oameni din întreaga lume susțin ideea unei unelte pentru a detecta AI. Cu o medie de 4 la 1”. 

După ce Wall Street Journal a publicat articolul, OpenAI a confirmat că lucrează la un astfel de sistem. Cu un mesaj scris pe propriul blog. În mesaj, compania susține că metoda lor e foarte precisă, cu o „eficiență de 99.9%”. În plus, sistemul ar fi imun la manipulări, „precum parafrazare”. OpenAI a confirmat că are deja o unealtă care poate detecta AI. Dar nu a oferit detalii despre o posibilă lansare. 

Unealta de detectare AI poate fi folositoare

OpenAI pare să fie îngrijorată că un astfel de sistem de detecție poate convinge unii utilizatori ChatGPT să renunțe la chatbot. Se pare că aproximativ 30% dintre utilizatorii intervievați ar folosi software-ul mai rar dacă ar fi implementat un sistem de watermarking. 

În ciuda acestui rezultat, cum OpenAI are deja o unealtă care poate detecta AI, mulți angajați ai companiei cred că un astfel de sistem e eficient. 

În mesajul publicat, OpenAI susține că se află în „primele etape” ale explorării posibilității de implementare a metadatelor în conținutul generat. Compania susține că e „prea devreme” pentru a-și da seama dacă un astfel de sistem ar funcționa. 

Un astfel de sistem e extrem de important în contextul actual. Hackerii deja folosesc ChatGPT pentru a-și înșela victimele. 

Mai mult, experți din cadrul Universității din San Diego au vrut să testeze noile sisteme AI recent. Ei au evaluat ELIZA (un chatbot simplu din anii 1960), GPT-3.5 și GPT-4, într-un Test Turing controlat. Participanții au avut o conversație de 5 minute, fie cu un alt om, fie cu AI. Ulterior, au decis dacă partenerul lor de conversație a fost om.

Potrivit rezultatelor cercetării, oamenii nu pot distinge între ChatGPT și o persoană, în acest test.

Reclamă
Te-ar mai putea interesa și
Hacker care lucrează pe un laptop, într-o cameră de circuite. Există numeroase secrete de securitate cibernetică ale hackerilor
Ce e GhostGPT. Hackeri din întreaga lume vor să îl folosească
Ce e GhostGPT. Hackeri din întreaga lume vor să îl folosească
Persoană care folosește un telefon cu un chatbot, similar cu cei 2 agenți AI care au vorbit între ei
Ce s-a întâmplat când 2 agenți AI și-au dat seama că vorbesc unul cu altul. Momentul a devenit imediat viral
Ce s-a întâmplat când 2 agenți AI și-au dat seama că vorbesc unul cu altul. Momentul a devenit imediat viral
Persoană care ține un telefon negru cu simbolul Copilot pe ecran, cu Microsoft colorat pe fundal, pentru a ilustra cum Telegram integrează chatbot-ul Copilot
Microsoft lansează Dragon: Copilot. Cum poate ajuta programul AI doctorii
Microsoft lansează Dragon: Copilot. Cum poate ajuta programul AI doctorii
RECOMANDĂRI USEIT.RO
1
Telefon din seria Samsung Galaxy S25, 22 ianuarie 2025, prins de un suport de metal
Cel mai bun smartphone al anului, potrivit Consumer Reports. Prima poziție e ocupată de 2 modele inedite
Consumer Reports a dezvăluit care e cel mai bun smartphone al anului, un titlu ce a fost acordat pentru 2 telefoane de această dată. Consumer Reports e o publicație lunară din cadrul Consumers Unions....
Cel mai bun smartphone al anului, potrivit Consumer Reports. Prima poziție e ocupată de 2 modele inedite
2
Telefon iPhone 14, pe mov, ridicat. Cipul A17 Bionic creat de Apple va fi folosit în seria iPhone 15
Design-ul iPhone 17 Pro Max a fost scurs pe Internet. Ce schimbare surprinzătoare ar fi pregătit Apple
Design-ul iPhone 17 Pro Max a fost scurs pe Internet și arată o schimbare inedită pentru viitorul smartphone premium creat de Apple.  Seria iPhone 17 e una dintre cele mai așteptate din sectorul tech....
Design-ul iPhone 17 Pro Max a fost scurs pe Internet. Ce schimbare surprinzătoare ar fi pregătit Apple
3
Imagine cu clădirile din New York, cer senin, care se numără printre cele mai bogate orașe din lume
Fun
Cel mai bogat oraș din lume. Aici locuiesc 350.000 de milionari și 60 de miliardari
În cel mai bogat oraș din lume locuiesc 350.000 de milionari și 60 de miliardari, potrivit celor mai recente date.  Atunci când vine vorba de cele mai bogate orașe din lume, există câteva locații...
Cel mai bogat oraș din lume. Aici locuiesc 350.000 de milionari și 60 de miliardari
4
Cutie Motorola One, albastră, pe fundal negru. Motorola Moto X40 devine primul smartphone care va folosi noul procesor Snapdragon
Motorola lansează un telefon aproape indestructibil. Ce preț accesibil are Moto G Power 2025
Motorola lansează un telefon aproape indestructibil, ce are și un preț accesibil, cu noul Moto G Power 2025, dezvăluit alături de Moto G 2025.  Motorola începe anul 2025 cu o nouă serie de smartphone-uri,...
Motorola lansează un telefon aproape indestructibil. Ce preț accesibil are Moto G Power 2025
5
iPhone 12 și iPhone 12 Pro, unul lângă altul, pe un birou alb. Apple vrea acum să repare problemele iPhone 14
Schimbarea Apple care afectează 300 de milioane de utilizatori. Ce funcție a introdus gigantul tech
Schimbarea Apple care afectează 300 de milioane de utilizatori deja a fost lăudată de unii dintre cei care au aflat de ea. Apple a introdus o nouă funcție iPhone, care poate fi folosit de...
Schimbarea Apple care afectează 300 de milioane de utilizatori. Ce funcție a introdus gigantul tech
PARTENERI
×