OpenAI amenință să interzică accesul utilizatorilor dacă pun această întrebare. Ce nu trebuie să facă pe noul model AI

OpenAI amenință să interzică accesul utilizatorilor la noul model AI dezvoltat de companie, numit pentru moment Strawberry (Căpșună). 

Publicat: 19 septembrie 2024, 12:32 / Actualizat: 19 septembrie 2024, 14:32
Reclamă

OpenAI susține că cel mai recent model AI pe care îl dezvoltă, ce are momentan numele de cod Strawberry, ar fi capabil de „raționament”. Strawberry a fost lansat moment în o1-preview și e testat deja. 

Dar se pare că OpenAI, companie ce a pornit ca un ONG cu scopul de a aduce AI etic maselor, nu vrea ca utilizatorii să știe cum ar funcționa acest proces, scrie Futurism

Creatorul ChatGPT a amenințat chiar utilizatorii care ar folosi acest model AI.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

OpenAI amenință să interzică accesul utilizatorilor dacă pun această întrebare

OpenAI ar fi amenințat că interzice accesul utilizatorilor care ar încerca să convingă modelul să dezvăluie modul în care gândește. Acesta e un exemplu clar al faptului că OpenAI a abandonat misiunea originală. Inițial, OpenAI a fost fondat drept un ONG care ar fi adus AI maselor și care ar fi permis accesul publicului la modelele AI. Dar compania a fost acuzată că se axează pe profit, chiar și în detrimentul viitorului societății. Elon Musk a și dat în judecată compania din acest motiv.

Faptul că OpenAI amenință să interzică accesul utilizatorilor a ieșit la iveală pe rețelele de socializare. Unii utilizatori au primit email-uri de la companie. Prin acestea, erau informați că cerințele lor către ChatGPT au fost scoase în evidență pentru că „ar fi încercat să treacă dincolo de nivelul de protecție”.

Reclamă
Reclamă

„Alte încălcări ale acestei reguli ar putea duce la pierderea accesului la GPT-4o cu Reasoning,” scrie în email. 

Situația e cu atât mai surprinzătoare când aflăm că Strawberry a fost prezentat drept un model AI care are un raționament ce ar permite inteligenței artificiale să descrie cum a ajuns la un anumit răspuns, pas cu pas. 

Mira Murati, CTO-ul OpenAI, a numit această direcție „o nouă paradigmă” pentru tehnologie. Dar de la declarațiile directorilor la modul în care aplică OpenAI această prezentare se pare că e cale lungă. Mai ales dacă OpenAI amenință acum să interzică accesul utilizatorilor dacă vor să afle cum funcționează raționamentul tehnologiei. 

Există mai multe mesaje publicate pe acest subiect pe rețelele de socializare. Unii dintre utilizatori susțin că folosirea termenului „reasoning trance” e ceea ce a cauzat probleme. Alții susțin că folosirea cuvântului „raționament” a atras atenția sistemelor OpenAI. 

OpenAI susține că trebuie să ascundă raționamentul Strawberry

Utilizatorii pot vedea, teoretic, care e procesul logic al Strawberry. Dar acest răspuns e dat de un alt model AI și e foarte vag. 

Într-un mesaj publicat pe blog-ul oficial, OpenAI susține că trebuie să ascundă raționamentul, pentru a nu introduce un filtru despre cum gândește inteligența artificială dezvoltată de companie. Acest filtru ar fi necesar în cazul în care modelul ar spune lucruri care nu sunt conforme cu politice de siguranță.

În acest mod, dezvoltatorii ar putea vedea în siguranță procesul „brut”. Dar compania a dezvăluit și că măsura o ajută să își mențină „avantajul competitiv”. Adică nu ar permite competitorilor să adopte un proces similar.

Recent, un cercetător OpenAI și-a dat demisia din companie, pe care a numit-o „Titanicul AI”, din cauza acestei direcții axate pe profit.

Dar faptul că OpenAI amenință să interzică accesul utilizatorilor ridică mai multe semne de întrebare. Respectiv faptul că măsură merge împotriva misiunii de democratizare a AI. Ceea ce reprezintă un obstacol nu doar pentru dezvoltarea în siguranță a tehnologiei.

Dar împiedică șii programatorii să investigheze modelele, pentru a le face mai sigure.

„Nu sunt deloc mulțumit de această decizie,” a declarat Simon Willison, cercetător AI. „Drept cineva care dezvoltă împotriva LLM-urile (modele mari de limbaj), interpretabilitatea și transparența sunt extrem de importante.”

Reclamă
Te-ar mai putea interesa și
Mobil cu contul personal al lui Elon Musk de pe Twitter, pe fundal cu bani. Musk a dezvăluit recent cât va costa bifa albastră pe Twitter
Elon Musk a vândut X pentru un preț mai mic decât cel pe care l-a plătit în 2022. Cine a cumpărat platforma
Elon Musk a vândut X pentru un preț mai mic decât cel pe care l-a plătit în 2022. Cine a cumpărat platforma
Bill Gates la evenimentul Sustainable Development Goals, în anul 2017. Fundal gri închis, costum negru, cămașă albastră
Fun
Programul de lucru de 2 zile va deveni o realitate în curând, susține Bill Gates. Când ar avea loc schimbarea
Programul de lucru de 2 zile va deveni o realitate în curând, susține Bill Gates. Când ar avea loc schimbarea
Bill Gates, anul 2019, pe scenă la evenimentul New York Times Dealbook, din New York. Îmbrăcat într-o bluză mov deschis, cu fundal albastru în spate. Bill Gates a vorbit despre planurile lui pentru 2022
Bill Gates a dezvăluit cele 3 joburi care nu vor fi preluate de AI. Toate celelalte sunt în pericol
Bill Gates a dezvăluit cele 3 joburi care nu vor fi preluate de AI. Toate celelalte sunt în pericol
RECOMANDĂRI USEIT.RO
1
Monede Bitcoin pe bancnote de 100 de dolari. Un bărbat a aruncat la gunoi o avere Bitcoin
Ce s-a întâmplat cu singura țară care a adoptat Bitcoin drept metodă legală de plată. Întreaga populație a fost afectată
Până acum, singura țară care a adoptat Bitcoin drept metodă legală de plată la nivel național a întâmpinat numeroase probleme.  În 2021, El Salvador a devenit singura țară care a acceptat oficial Bitcoin drept...
Ce s-a întâmplat cu singura țară care a adoptat Bitcoin drept metodă legală de plată. Întreaga populație a fost afectată
2
Laptop cu Microsoft Word pe ecran, similar cu alternativa gratuită DOCS
Europa lansează alternativă gratuită pentru Microsoft Word și Google Docs. Cum funcționează DOCS
Europa lansează alternativă gratuită pentru Microsoft Word și Google Docs cu noua platformă DOCS, creată în parteneriat de Franța și Germania.  Guvernele din Franța și Germania au anunțat recent DOCS. Acesta e un serviciu...
Europa lansează alternativă gratuită pentru Microsoft Word și Google Docs. Cum funcționează DOCS
3
Yangwang U9, mașină care poate sări peste obstacole, prezentată la Singapore MotorShow, ianuarie 2025, pe roșu
BYD a depășit Tesla. Ce vânzări record a avut la nivel global
Producătorul auto BYD a depășit Tesla la nivelul vânzărilor globale, cu vânzări anuale record pentru anul 2024.  BYD e un producător auto cunoscut din China. Potrivit celui mai recent raport, BYD ar fi avut...
BYD a depășit Tesla. Ce vânzări record a avut la nivel global
4
Imagine cu clădirile din New York, cer senin, care se numără printre cele mai bogate orașe din lume
Fun
Cel mai bogat oraș din lume. Aici locuiesc 350.000 de milionari și 60 de miliardari
În cel mai bogat oraș din lume locuiesc 350.000 de milionari și 60 de miliardari, potrivit celor mai recente date.  Atunci când vine vorba de cele mai bogate orașe din lume, există câteva locații...
Cel mai bogat oraș din lume. Aici locuiesc 350.000 de milionari și 60 de miliardari
5
Colaj cu iceberg și o barcă și pești de gheață, din descoperirea majoră în Oceanul Antarctic
Un ecosistem nemaivăzut a fost descoperit după ce un aisberg s-a desprins în Antarctica. Ce se ascundea în adâncuri
Un ecosistem nemaivăzut a fost descoperit după ce un aisberg enorm s-a desprins în Antarctica, una dintre regiunile cele mai afectate de încălzirea globală.  Pe 13 ianuarie 2025, un aisberg de mărimea orașului Chicago...
Un ecosistem nemaivăzut a fost descoperit după ce un aisberg s-a desprins în Antarctica. Ce se ascundea în adâncuri
PARTENERI
×