Un cercetător OpenAI și-a dat demisia din „Titanicul AI”. Ce „adevăr supărător” a aflat despre companie

Un cercetător OpenAI a dezvăluit că și-a dat demisia „Titanicul AI” pentru că ar fi aflat un „adevăr supărător” pentru companie, ce l-a determinat s-o părăsească.

Publicat: 24 august 2024, 7:23 / Actualizat: 24 august 2024, 11:49

Cercetătorul a dezvăluit că a părăsit compania după ce și-a dat seama că OpenAI se concentra pe profit în detrimentul siguranței. Această îngrijorare a apărut în cazul mai multor foști angajați, ce au decis să se îndepărteze de OpenAI, una dintre cele mai cunoscute companii din domeniul AI.

William Saunders a lucrat în echipa Superalignment din cadrul OpenAI. El a dezvăluit detalii despre experiența sa în timpul unui interviu în podcast-ul lui Alex Kantrowitz, scrie Futurism.

Saunders a vorbit despre „adevărul supărător” care l-a determinat să renunțe la slujba sa.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Un cercetător OpenAI și-a dat demisia din „Titanicul AI

„Chiar nu am vrut să lucrez pentru Titanicul AI. Așa că din acest motiv mi-am dat demisia,” a declarat Saunders. „În cei 3 ani ai mei în cadrul OpenAI, uneori îmi puneam o întrebare. Calea pe care era OpenAI semăna mai mult cu programul Apollo sau semăna mai mult cu Titanicul?”

Saunders, fost cercetător OpenAI, a susținut că Titanicul era numit „de nescufundat, dar, în același timp, nu existau suficiente bărci de salvare pentru toată lumea. Așa că atunci când a avut loc un dezastru, mulți oameni au murit.”

Reclamă

Fostul angajat OpenAI acuză compania că „prioritizează lansarea produselor noi, care să atragă atenția”. La fel precum White Star Line, compania britanică ce a construit Titanicul.

Saunders nu e primul fost angajat OpenAI care a criticat compania pentru noua sa direcție. Și numeroși experți sunt îngrijorați de modul în care companii precum OpenAI dezvoltă sisteme AI capabile să întreacă abilitățile umane. Acest concept poartă denumirea de inteligență artificială general (AGI). În acest moment, acest status e pur teoretic, dar mulți vor să îl atingă – inclusiv CEO-ul controversat al OpenAI, Sam Altman.

Pentru că OpenAI urmărește acest țel, uneori cu riscul de a ignora siguranța, a fost numit „Titanicul AI” de către Saunders. Nu e singurul fost angajat care a criticat noua direcție a companiei. Printre cei mai mari critici ai OpenAI se numără și Elon Musk, unul dintre cofondatorii companiei.

Ilya Sutskever, cercetătorul șef OpenAI, a părăsit compania

Ilya Sutskever e unul dintre cofondatorii OpenAI, compania care a lansat ChatGPT, chatbot-ul AI care a dus la o schimbare semnificativă în industria tech. De la succesul ChatGPT, unele dintre cele mai mari companii tech și-au creat propriile tehnologii AI.

Ilya Sutskever a fost unul dintre directorii OpenAI care l-au concediat pe CEO-ul Sam Altman, ce a fost angajat din nou peste doar o săptămână.

Acum, Sutskever a pornit propria companie AI, la scurt timp după ce și-a dat demisia de la OpenAI. În anunțul companiei, cercetătorul a transmis și un mesaj. Prin acesta, a dat de înțeles ce părere are despre noua direcție OpenAI, axată pe profit. Direcția a fost criticată inclusiv de Elon Musk. Așa că nu e de mirare că OpenAI a început să fie numit acum și „Titanicul AI”.

Fostul cercetător șef OpenAI a dezvăluit compania Safe Superintelligence Inc. (SSI), ce ar avea „un singur țel și un singur produs”. Acest scop ar fi crearea unui sistem AI puternic și, mai ales, sigur.

Sutskever e doar unul dintre foștii angajați care par să fi părăsit compania din cauza noii direcții propuse de Altman.