Încă o cercetătoare și-a dat demisia de la OpenAI. De ce a „speriat-o” direcția companiei

OpenAI, compania care a lansat ChatGPT și a dus la o revoluție AI în domeniul tech, a fost acuzată de mai mulți foști angajați că pune profitul pe primul loc, în detrimentul securității cibernetice.

Rosie Campbell, fosta cercetătoare OpenAI, a scris pe propriul cont Substack un mesaj pe care l-a publicat și pe canalul Slack al companiei înainte să își dea demisia, scrie Futurism.

În acest mesaj, a detaliat îngrijorările sale legate de viitorul companiei.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Încă o cercetătoare și-a dat demisia de la OpenAI

Campbell susține că decizia sa a fost influențată de demisia „țarului” AGI (inteligența artificială generală) Miles Brundage. Demisia lui Brundage a dus la destrămarea echipei AGI.

„După aproape 3.5 ani acolo, am părăsit OpenAI,” scrie în mesajul lui Campbell, încă o cercetătoare care și-a dat demisia de la OpenAI. „Întotdeauna am fost puternic motivată de asigurarea unui AGI sigur și benefic. După plecarea lui Brundage și destrămarea echipei AGI Readiness, cred că pot urma acest țel mai eficient în exteriorul companiei.”

Reclamă

Fosta angajată susține că a decis să plece și pentru că era îngrijorată de schimbările prin care a trecut compania în ultimul an. Nu se știe exact la ce schimbări se referă, dar în această perioadă a avut loc și o încercare de a-l concedia pe Sam Altman, CEO-ul companiei. Acesta a revenit la conducerea OpenAI în mai puțin de o săptămână.

Decizia de a-l concedia a fost luată de membri ai consiliului care erau îngrijorați de lipsa unei perspective axate pe siguranță, sub conducerea lui Altman.

Dincolo de revenirea lui Altman, au fost și alte probleme în cadrul companiei. Mai mulți experți și-au dat demisia în ultimul an, pe măsură ce OpenAI s-a axat din ce în ce mai mult pe partea comercială.

„În timp ce schimbarea e inevitabilă în contextul dezvoltării, am fost îngrijorată de unele dintre modificările din ultimul an,” a continuat Campbell, ce și-a dat recent demisia de la OpenAI. „Și pierderea atât de multor oameni care au creat cultura noastră organizațională. Sper sincer că ceea ce a făcut această companie atât de specială poate să crească în loc să scadă.”

Compania OpenAI a fost descrisă drept „Titanicul AI”

William Saunders a lucrat în echipa Superalignment din cadrul OpenAI. El a dezvăluit detalii despre experiența sa în timpul unui interviu în podcast-ul lui Alex Kantrowitz realizat în luna august 2024. Interviul a avut loc după ce și-a dat demisia de la OpenAI.

„Chiar nu am vrut să lucrez pentru Titanicul AI. Așa că din acest motiv mi-am dat demisia,” a declarat Saunders. „În cei 3 ani ai mei în cadrul OpenAI, uneori îmi puneam o întrebare. Calea pe care era OpenAI semăna mai mult cu programul Apollo sau semăna mai mult cu Titanicul?”

Saunders e fost cercetător OpenAI. A susținut că Titanicul era numit „de nescufundat. Dar, în același timp, nu existau suficiente bărci de salvare pentru toată lumea. Așa că atunci când a avut loc un dezastru, mulți oameni au murit.”

Fostul angajat OpenAI acuză compania că „prioritizează lansarea produselor noi, care să atragă atenția”. La fel precum White Star Line, compania britanică ce a construit Titanicul.

Saunders nu e primul fost angajat OpenAI care a criticat compania pentru noua sa direcție. Și numeroși experți sunt îngrijorați de modul în care companii precum OpenAI dezvoltă sisteme AI capabile să întreacă abilitățile umane. Acest concept poartă denumirea de inteligență artificială generală (AGI).