Care sunt șansele ca AI să distrugă omenirea. O sursă OpenAI și-a dezvăluit îngrijorările

O sursă din interiorul OpenAI, compania din spatele ChatGPT, a dezvăluit care sunt șansele ca AI să distrugă omenirea sau să afecteze grav societatea pe viitor. 

Publicat: 6 iunie 2024, 15:01 / Actualizat: 6 iunie 2024, 16:02
Reclamă

După ce mai mulți foști și actuali angajați ai OpenAI au semnat o scrisoare deschisă prin care susțin că sunt reduși la tăcere privind îngrijorările legate de siguranța tehnologiei, unul dintre semnatari a făcut o predicție surprinzătoare.

Se pare că sunt șanse mari ca inteligența artificială fie să distrugă fie să afecteze semnificativ omenirea, scrie Futurism.

Daniel Kokotajlo, fost cercetător OpenAI, a acuzat compania de ignorarea unor „riscuri monumentale” pe care le poate avea AGI (inteligența artificială generală). Se pare că problema e cauzată de directorii care sunt fascinați de posibilitățile AGI.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Care sunt șansele ca AI să distrugă omenirea

„OpenAI e foarte încântat de construirea AGI,” a dezvăluit expertul. „Și se grăbește nesăbuit să fie prima care atinge acest prag.” 

Kokotajlo crede că sunt șanse mari ca AI să distrugă omenirea. Se pare că riscul ar fi de 70% ca întreaga omenire să fie distrusă. Mai există și posibilitatea ca tehnologia să afecteze semnificativ societatea, la fel precum un cataclism natural.

Reclamă
Reclamă

Termenul se numește p(doom) în industrie. Se referă la șansele ca AI să distrugă complet societatea așa cum o știm. Subiectul e foarte controversat în industria tech. 

Kokotajlo, în vârstă de 31 de ani, s-a alăturat OpenAI în 2022. Potrivit spuselor sale, fusese angajat să prezică progresul tehnologiei. În timpul acestui proces, a devenit convins că industria va atinge AGI până în anul 2027 și că exista un risc foarte mare ca acest lucru să fie catastrofal pentru societate. 

Așa cum e specificat și în scrisoarea deschisă, Kokotajlo și colegii săi din industrie cer „dreptul de a avertiza” publicul despre riscul AI. Scrisoarea a fost semnată și de actuali și foști angajați Google DeepMind și Anthropic, dar și de Geoffrey Hinton, numit și „nașul AI”. Hinton a plecat anul trecut de la Google din cauza unor îngrijorări similare. 

Kokotajlo a devenit atât de convins de riscul ca AI să distrugă omenirea încât l-a rugat personal pe CEO-ul controversat al OpenAI, Sam Altman, să schimbe direcția companiei spre „siguranță”. Și să petreacă mai mult timp pe implementarea sistemelor de protecție în tehnologie. Înainte să încerce să o facă și mai inteligentă. Kokotajlo susține că Altman a fost de acord cu el pe moment. Dar crede că nu credea cu adevărat în ceea ce spunea. 

Experții AI sunt îngrijorați de potențialul AGI 

Kokotajlo și-a dat demisia în aprilie. Într-un email către compania sa, expertul a susținut că și-a „pierdut încrederea că OpenAI se va comporta responsabil” în acest context. 

„Lumea nu e pregătită și noi nu suntem pregătiți,” a scris Kokotajlo în email. „Și sunt îngrijorat că ne grăbim înainte indiferent de risc și încercăm să găsim logică în această decizie.” 

Mai mulți experți și directori au părăsit OpenAI în ultima perioadă. Ceea ce a dus la numeroase întrebări. Legate de modul în care compania gestionează tehnologia extrem de puternică pe care o are. Mai ales că mulți se tem că AI ar putea să distrugă omenirea. 

„Suntem mândri de istoricul nostru despre livrarea celor mai capabile și sigure sisteme AI,” au declarat reprezentanții companiei. „Și credem în abordarea noastră științifică în gestionarea riscului.”

Reclamă
Te-ar mai putea interesa și
Seria Apple Watch 9 a fost lansată pe 12 septembrie 2023, pe fundal gri cu buline albe
Schimbare importantă pentru Apple Watch la 10 ani de la lansare. Ce se va întâmpla cu ceasul smart
Schimbare importantă pentru Apple Watch la 10 ani de la lansare. Ce se va întâmpla cu ceasul smart
Utilizator care folosește un laptop cu ChatGPT, pe o masă, pentru a ilustra ce i-a cerut un utilizator modelului ChatGPT
Oamenii nu pot distinge între ChatGPT și o persoană în conversație. Ce ar putea însemna pentru domeniul AI
Oamenii nu pot distinge între ChatGPT și o persoană în conversație. Ce ar putea însemna pentru domeniul AI
Un Soare artificial, într-un reactor, pe fundal negru, similar cu „Soarele artificial” creat de China
Cel mai mare reactor termonuclear din lume e gata. De ce nu va funcționa până în 2039
Cel mai mare reactor termonuclear din lume e gata. De ce nu va funcționa până în 2039
RECOMANDĂRI USEIT.RO
1
Medicament Ozempic, cu albastru și roșu, pe fundal alb. E medicamentul „pentru slăbit” care îngrijorează doctorii
Medicamentul care întrece Ozempic la slăbit, potrivit unui studiu recent. Cum duce la pierderea în greutate
Medicamentul care întrece Ozempic la slăbit a atras atenția în urma unui studiu recent în care ar fi dat rezultatele mai bune atunci când vine vorba de pierderea în greutate. Ozempic a devenit cunoscut...
Medicamentul care întrece Ozempic la slăbit, potrivit unui studiu recent. Cum duce la pierderea în greutate
2
Samsung a dezvăluit Galaxy Ring, pe ecranul unui telefon, pe fundal de lemn
Samsung a dezvăluit Galaxy Ring. Cât costă primul inel smart al companiei
În cadrul evenimentului Galaxy Unpacked de pe 10 iulie 204, Samsung a dezvăluit Galaxy Ring, noul inel smart al companiei. Samsung Galaxy ring a fost anunțat în cadrul Samsung Unpacked 2024 pe 10 iulie,...
Samsung a dezvăluit Galaxy Ring. Cât costă primul inel smart al companiei
3
2 telefoane Galaxy Z Flip 5, lansate în 2023, pe fundal alb, acum că Samsung lansează Galaxy Z Fold 6 și Flip 6
Samsung lansează Galaxy Z Fold 6 și Flip 6. Cum arată și ce prețuri au noile smartphone-uri pliabile
Samsung lansează Galaxy Z Fold 6 și Flip 6, cele mai recente telefoane pliabile oferite de gigantul tech din Coreea de Sud. La fel precum celelalte smartphone-uri Samsung lansate în acest an, noile dispozitive...
Samsung lansează Galaxy Z Fold 6 și Flip 6. Cum arată și ce prețuri au noile smartphone-uri pliabile
4
Ploaie de meteoriți, similară cu Lyride, din 2023, pe cer albastru și mov
2 ploi de stele vor avea loc în aceeași zi în iulie 2024. Când va avea loc spectacolul astronomic inedit
Experții au anunțat că 2 ploi de stele vor avea loc în aceeași zi din iulie 2024, într-un spectacol astronomic inedit din această vară. La finalul lunii iulie 2024, vom avea parte de un...
2 ploi de stele vor avea loc în aceeași zi în iulie 2024. Când va avea loc spectacolul astronomic inedit
5
Platforma și logo-ul Facebook pe ecranul unui telefon. Un utilizator dă un like la o postare cu logo-ul Facebook. Mulți se întreabă cum verifici dacă te-a blocat cineva pe Facebook
Cum poți ascunde lista de prieteni de pe Facebook. Puțini utilizatori știu cea mai simplă metodă
Te-ai întrebat cum poți ascunde lista de prieteni de pe Facebook? Există trucuri simple, în funcție de dispozitivul pe care îl folosești.  Pentru utilizatorii rețelelor de socializare care au îngrijorări legate de securitatea datelor,...
Cum poți ascunde lista de prieteni de pe Facebook. Puțini utilizatori știu cea mai simplă metodă
PARTENERI
×