Care sunt șansele ca AI să distrugă omenirea. O sursă OpenAI și-a dezvăluit îngrijorările

După ce mai mulți foști și actuali angajați ai OpenAI au semnat o scrisoare deschisă prin care susțin că sunt reduși la tăcere privind îngrijorările legate de siguranța tehnologiei, unul dintre semnatari a făcut o predicție surprinzătoare.

Se pare că sunt șanse mari ca inteligența artificială fie să distrugă fie să afecteze semnificativ omenirea, scrie Futurism.

Daniel Kokotajlo, fost cercetător OpenAI, a acuzat compania de ignorarea unor „riscuri monumentale” pe care le poate avea AGI (inteligența artificială generală). Se pare că problema e cauzată de directorii care sunt fascinați de posibilitățile AGI.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Care sunt șansele ca AI să distrugă omenirea

„OpenAI e foarte încântat de construirea AGI,” a dezvăluit expertul. „Și se grăbește nesăbuit să fie prima care atinge acest prag.”

Kokotajlo crede că sunt șanse mari ca AI să distrugă omenirea. Se pare că riscul ar fi de 70% ca întreaga omenire să fie distrusă. Mai există și posibilitatea ca tehnologia să afecteze semnificativ societatea, la fel precum un cataclism natural.

Reclamă

Termenul se numește p(doom) în industrie. Se referă la șansele ca AI să distrugă complet societatea așa cum o știm. Subiectul e foarte controversat în industria tech.

Kokotajlo, în vârstă de 31 de ani, s-a alăturat OpenAI în 2022. Potrivit spuselor sale, fusese angajat să prezică progresul tehnologiei. În timpul acestui proces, a devenit convins că industria va atinge AGI până în anul 2027 și că exista un risc foarte mare ca acest lucru să fie catastrofal pentru societate.

Așa cum e specificat și în scrisoarea deschisă, Kokotajlo și colegii săi din industrie cer „dreptul de a avertiza” publicul despre riscul AI. Scrisoarea a fost semnată și de actuali și foști angajați Google DeepMind și Anthropic, dar și de Geoffrey Hinton, numit și „nașul AI”. Hinton a plecat anul trecut de la Google din cauza unor îngrijorări similare.

Kokotajlo a devenit atât de convins de riscul ca AI să distrugă omenirea încât l-a rugat personal pe CEO-ul controversat al OpenAI, Sam Altman, să schimbe direcția companiei spre „siguranță”. Și să petreacă mai mult timp pe implementarea sistemelor de protecție în tehnologie. Înainte să încerce să o facă și mai inteligentă. Kokotajlo susține că Altman a fost de acord cu el pe moment. Dar crede că nu credea cu adevărat în ceea ce spunea.

Experții AI sunt îngrijorați de potențialul AGI

Kokotajlo și-a dat demisia în aprilie. Într-un email către compania sa, expertul a susținut că și-a „pierdut încrederea că OpenAI se va comporta responsabil” în acest context.

„Lumea nu e pregătită și noi nu suntem pregătiți,” a scris Kokotajlo în email. „Și sunt îngrijorat că ne grăbim înainte indiferent de risc și încercăm să găsim logică în această decizie.”

Mai mulți experți și directori au părăsit OpenAI în ultima perioadă. Ceea ce a dus la numeroase întrebări. Legate de modul în care compania gestionează tehnologia extrem de puternică pe care o are. Mai ales că mulți se tem că AI ar putea să distrugă omenirea.

„Suntem mândri de istoricul nostru despre livrarea celor mai capabile și sigure sisteme AI,” au declarat reprezentanții companiei. „Și credem în abordarea noastră științifică în gestionarea riscului.”