Care sunt șansele ca AI să distrugă omenirea. O sursă OpenAI și-a dezvăluit îngrijorările

O sursă din interiorul OpenAI, compania din spatele ChatGPT, a dezvăluit care sunt șansele ca AI să distrugă omenirea sau să afecteze grav societatea pe viitor. 

Publicat: 6 iunie 2024, 15:01 / Actualizat: 6 iunie 2024, 16:02
Reclamă

După ce mai mulți foști și actuali angajați ai OpenAI au semnat o scrisoare deschisă prin care susțin că sunt reduși la tăcere privind îngrijorările legate de siguranța tehnologiei, unul dintre semnatari a făcut o predicție surprinzătoare.

Se pare că sunt șanse mari ca inteligența artificială fie să distrugă fie să afecteze semnificativ omenirea, scrie Futurism.

Daniel Kokotajlo, fost cercetător OpenAI, a acuzat compania de ignorarea unor „riscuri monumentale” pe care le poate avea AGI (inteligența artificială generală). Se pare că problema e cauzată de directorii care sunt fascinați de posibilitățile AGI.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Care sunt șansele ca AI să distrugă omenirea

„OpenAI e foarte încântat de construirea AGI,” a dezvăluit expertul. „Și se grăbește nesăbuit să fie prima care atinge acest prag.” 

Kokotajlo crede că sunt șanse mari ca AI să distrugă omenirea. Se pare că riscul ar fi de 70% ca întreaga omenire să fie distrusă. Mai există și posibilitatea ca tehnologia să afecteze semnificativ societatea, la fel precum un cataclism natural.

Reclamă
Reclamă

Termenul se numește p(doom) în industrie. Se referă la șansele ca AI să distrugă complet societatea așa cum o știm. Subiectul e foarte controversat în industria tech. 

Kokotajlo, în vârstă de 31 de ani, s-a alăturat OpenAI în 2022. Potrivit spuselor sale, fusese angajat să prezică progresul tehnologiei. În timpul acestui proces, a devenit convins că industria va atinge AGI până în anul 2027 și că exista un risc foarte mare ca acest lucru să fie catastrofal pentru societate. 

Așa cum e specificat și în scrisoarea deschisă, Kokotajlo și colegii săi din industrie cer „dreptul de a avertiza” publicul despre riscul AI. Scrisoarea a fost semnată și de actuali și foști angajați Google DeepMind și Anthropic, dar și de Geoffrey Hinton, numit și „nașul AI”. Hinton a plecat anul trecut de la Google din cauza unor îngrijorări similare. 

Kokotajlo a devenit atât de convins de riscul ca AI să distrugă omenirea încât l-a rugat personal pe CEO-ul controversat al OpenAI, Sam Altman, să schimbe direcția companiei spre „siguranță”. Și să petreacă mai mult timp pe implementarea sistemelor de protecție în tehnologie. Înainte să încerce să o facă și mai inteligentă. Kokotajlo susține că Altman a fost de acord cu el pe moment. Dar crede că nu credea cu adevărat în ceea ce spunea. 

Experții AI sunt îngrijorați de potențialul AGI 

Kokotajlo și-a dat demisia în aprilie. Într-un email către compania sa, expertul a susținut că și-a „pierdut încrederea că OpenAI se va comporta responsabil” în acest context. 

„Lumea nu e pregătită și noi nu suntem pregătiți,” a scris Kokotajlo în email. „Și sunt îngrijorat că ne grăbim înainte indiferent de risc și încercăm să găsim logică în această decizie.” 

Mai mulți experți și directori au părăsit OpenAI în ultima perioadă. Ceea ce a dus la numeroase întrebări. Legate de modul în care compania gestionează tehnologia extrem de puternică pe care o are. Mai ales că mulți se tem că AI ar putea să distrugă omenirea. 

„Suntem mândri de istoricul nostru despre livrarea celor mai capabile și sigure sisteme AI,” au declarat reprezentanții companiei. „Și credem în abordarea noastră științifică în gestionarea riscului.”

Reclamă
Te-ar mai putea interesa și
Femeie care are telefon ăn mână, stă pe canapea, și controlează electrocasnicele smart din casă, în funcție de cum le alegi
(P) Casa inteligentă începe cu alegeri deștepte: cum alegi electrocasnicele smart în funcție de locuință?
(P) Casa inteligentă începe cu alegeri deștepte: cum alegi electrocasnicele smart în funcție de locuință?
Utilizator care are un telefon cu WhatsApp pe ecran. Experții au emis avertismente urgente pentru utilizatorii WhatsApp
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Un robot alb care vorbește cu un adolescent care își face temele, amândoi pe canapea, pentru a ilustra ce e efectul Eliza
Un model AI a trecut de testul Turing, în premieră mondială. Cum a reușit
Un model AI a trecut de testul Turing, în premieră mondială. Cum a reușit
RECOMANDĂRI USEIT.RO
1
Doi astronauți, lângă Stația Spațială Internațională, în spațiu, cu Pământul pe fundal. Acolo vor ajunge și astronauții amatori care au plătit câte 55 de milioane de dolari pentru misiune
Riscul la care se expun astronauții care zboară spre Marte. Corpul lor nu va mai fi la fel niciodată
Puțini știu riscul la care se expun astronauții care zboară spre Marte, un drum care are efecte semnificative asupra corpului lor. Călătoriile mai lungi în spațiu vor avea loc în următoarele decenii. Pentru a...
Riscul la care se expun astronauții care zboară spre Marte. Corpul lor nu va mai fi la fel niciodată
2
Utilizator care are un telefon cu WhatsApp pe ecran. Experții au dezvăluit cum poți verifica dacă ți-a fost citit mesajul pe Android
Îți place să trimiți mesaje vocale pe WhatsApp? Ce spun psihologii despre tine
Dacă îți place să trimiți mesaje vocale pe WhatsApp, s-ar putea să ai o trăsătură pe care psihologii au scos-o în evidență.  Mesajele vocale tind să dividă utilizatorii. Unii dintre ei adoră să le...
Îți place să trimiți mesaje vocale pe WhatsApp? Ce spun psihologii despre tine
3
Femeie care a adus un laptop pe avion și îl folosește
Ce nu trebuie să faci cu un laptop pe avion. Greșeala care îți poate strica dispozitivul
Experții au dezvăluit ce nu trebuie să faci cu un laptop pe avion, o greșeală mult mai comună decât își dau seama cei mai mulți pasageri.  Pentru mulți pasageri, timpul petrecut în zbor reprezintă...
Ce nu trebuie să faci cu un laptop pe avion. Greșeala care îți poate strica dispozitivul
4
Planeta Pământ, împărțită în două. Într-o parte e verde și sănătoasă, în cealaltă e uscată, pe moarte. Planeta e ținută de o mână
Încălzirea globală ar putea distruge 40% din economia globală. Cum e posibil
Experții au estimat că încălzirea globală ar putea distruge 40% din economia globală, o scădere care va avea loc în timpul vieții noastre. Distrugerea cauzată de schimbarea climei se va resimți și la nivelul...
Încălzirea globală ar putea distruge 40% din economia globală. Cum e posibil
5
Logoul Google Chrome, înainte să fie schimbat, pe ecranul unui telefon mobil, lângă o tastatură
Google a pierdut un proces antitrust important în SUA. Ce nu mai poate face gigantul tech de acum
Google a pierdut un proces antitrust împotriva Departamentului de Justiție din SUA, după ce gigantul tech a fost acuzat că are monopol în domeniul publicității în industria tech. O mare parte din profitul Google...
Google a pierdut un proces antitrust important în SUA. Ce nu mai poate face gigantul tech de acum
PARTENERI
×