Un cercetător OpenAI și-a dat demisia din „Titanicul AI”. Ce „adevăr supărător” a aflat despre companie

Un cercetător OpenAI a dezvăluit că și-a dat demisia „Titanicul AI” pentru că ar fi aflat un „adevăr supărător” pentru companie, ce l-a determinat s-o părăsească. 

Publicat: 24 august 2024, 7:23 / Actualizat: 24 august 2024, 11:49
Reclamă

Cercetătorul a dezvăluit că a părăsit compania după ce și-a dat seama că OpenAI se concentra pe profit în detrimentul siguranței. Această îngrijorare a apărut în cazul mai multor foști angajați, ce au decis să se îndepărteze de OpenAI, una dintre cele mai cunoscute companii din domeniul AI. 

William Saunders a lucrat în echipa Superalignment din cadrul OpenAI. El a dezvăluit detalii despre experiența sa în timpul unui interviu în podcast-ul lui Alex Kantrowitz, scrie Futurism.

Saunders a vorbit despre „adevărul supărător” care l-a determinat să renunțe la slujba sa.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Un cercetător OpenAI și-a dat demisia din „Titanicul AI

„Chiar nu am vrut să lucrez pentru Titanicul AI. Așa că din acest motiv mi-am dat demisia,” a declarat Saunders. „În cei 3 ani ai mei în cadrul OpenAI, uneori îmi puneam o întrebare. Calea pe care era OpenAI semăna mai mult cu programul Apollo sau semăna mai mult cu Titanicul?” 

Saunders, fost cercetător OpenAI, a susținut că Titanicul era numit „de nescufundat, dar, în același timp, nu existau suficiente bărci de salvare pentru toată lumea. Așa că atunci când a avut loc un dezastru, mulți oameni au murit.” 

Reclamă
Reclamă

Fostul angajat OpenAI acuză compania că „prioritizează lansarea produselor noi, care să atragă atenția”. La fel precum White Star Line, compania britanică ce a construit Titanicul. 

Saunders nu e primul fost angajat OpenAI care a criticat compania pentru noua sa direcție. Și numeroși experți sunt îngrijorați de modul în care companii precum OpenAI dezvoltă sisteme AI capabile să întreacă abilitățile umane. Acest concept poartă denumirea de inteligență artificială general (AGI). În acest moment, acest status e pur teoretic, dar mulți vor să îl atingă – inclusiv CEO-ul controversat al OpenAI, Sam Altman. 

Pentru că OpenAI urmărește acest țel, uneori cu riscul de a ignora siguranța, a fost numit „Titanicul AI” de către Saunders. Nu e singurul fost angajat care a criticat noua direcție a companiei. Printre cei mai mari critici ai OpenAI se numără și Elon Musk, unul dintre cofondatorii companiei. 

Ilya Sutskever, cercetătorul șef OpenAI, a părăsit compania

Ilya Sutskever e unul dintre cofondatorii OpenAI, compania care a lansat ChatGPT, chatbot-ul AI care a dus la o schimbare semnificativă în industria tech. De la succesul ChatGPT, unele dintre cele mai mari companii tech și-au creat propriile tehnologii AI. 

Ilya Sutskever a fost unul dintre directorii OpenAI care l-au concediat pe CEO-ul Sam Altman, ce a fost angajat din nou peste doar o săptămână. 

Acum, Sutskever a pornit propria companie AI, la scurt timp după ce și-a dat demisia de la OpenAI. În anunțul companiei, cercetătorul a transmis și un mesaj. Prin acesta, a dat de înțeles ce părere are despre noua direcție OpenAI, axată pe profit. Direcția a fost criticată inclusiv de Elon Musk. Așa că nu e de mirare că OpenAI a început să fie numit acum și „Titanicul AI”. 

Fostul cercetător șef OpenAI a dezvăluit compania Safe Superintelligence Inc. (SSI), ce ar avea „un singur țel și un singur produs”. Acest scop ar fi crearea unui sistem AI puternic și, mai ales, sigur. 

Sutskever e doar unul dintre foștii angajați care par să fi părăsit compania din cauza noii direcții propuse de Altman.

Reclamă
Te-ar mai putea interesa și
Utilizator care are un telefon cu WhatsApp pe ecran. Experții au emis avertismente urgente pentru utilizatorii WhatsApp
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Un robot alb care vorbește cu un adolescent care își face temele, amândoi pe canapea, pentru a ilustra ce e efectul Eliza
Un model AI a trecut de testul Turing, în premieră mondială. Cum a reușit
Un model AI a trecut de testul Turing, în premieră mondială. Cum a reușit
Laptop deschis cu OpenAI pe ecran și un telefon cu ChatGPT pe ecran, pentru a ilustra industria pe care ChatGPT o poate schimba
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră. Pentru ce opțiune există o „cerere biblică”
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră. Pentru ce opțiune există o „cerere biblică”
RECOMANDĂRI USEIT.RO
1
Doi astronauți, lângă Stația Spațială Internațională, în spațiu, cu Pământul pe fundal. Acolo vor ajunge și astronauții amatori care au plătit câte 55 de milioane de dolari pentru misiune
Riscul la care se expun astronauții care zboară spre Marte. Corpul lor nu va mai fi la fel niciodată
Puțini știu riscul la care se expun astronauții care zboară spre Marte, un drum care are efecte semnificative asupra corpului lor. Călătoriile mai lungi în spațiu vor avea loc în următoarele decenii. Pentru a...
Riscul la care se expun astronauții care zboară spre Marte. Corpul lor nu va mai fi la fel niciodată
2
Utilizator care are un telefon cu WhatsApp pe ecran. Experții au dezvăluit cum poți verifica dacă ți-a fost citit mesajul pe Android
Îți place să trimiți mesaje vocale pe WhatsApp? Ce spun psihologii despre tine
Dacă îți place să trimiți mesaje vocale pe WhatsApp, s-ar putea să ai o trăsătură pe care psihologii au scos-o în evidență.  Mesajele vocale tind să dividă utilizatorii. Unii dintre ei adoră să le...
Îți place să trimiți mesaje vocale pe WhatsApp? Ce spun psihologii despre tine
3
Femeie care a adus un laptop pe avion și îl folosește
Ce nu trebuie să faci cu un laptop pe avion. Greșeala care îți poate strica dispozitivul
Experții au dezvăluit ce nu trebuie să faci cu un laptop pe avion, o greșeală mult mai comună decât își dau seama cei mai mulți pasageri.  Pentru mulți pasageri, timpul petrecut în zbor reprezintă...
Ce nu trebuie să faci cu un laptop pe avion. Greșeala care îți poate strica dispozitivul
4
Planeta Pământ, împărțită în două. Într-o parte e verde și sănătoasă, în cealaltă e uscată, pe moarte. Planeta e ținută de o mână
Încălzirea globală ar putea distruge 40% din economia globală. Cum e posibil
Experții au estimat că încălzirea globală ar putea distruge 40% din economia globală, o scădere care va avea loc în timpul vieții noastre. Distrugerea cauzată de schimbarea climei se va resimți și la nivelul...
Încălzirea globală ar putea distruge 40% din economia globală. Cum e posibil
5
Logoul Google Chrome, înainte să fie schimbat, pe ecranul unui telefon mobil, lângă o tastatură
Google a pierdut un proces antitrust important în SUA. Ce nu mai poate face gigantul tech de acum
Google a pierdut un proces antitrust împotriva Departamentului de Justiție din SUA, după ce gigantul tech a fost acuzat că are monopol în domeniul publicității în industria tech. O mare parte din profitul Google...
Google a pierdut un proces antitrust important în SUA. Ce nu mai poate face gigantul tech de acum
PARTENERI
×