AI poate aduce un viitor „catastrofal”, avertizează „nașul” tehnologiei. Ce recomandă expertul Yoshua Bengio să facem pentru a ne proteja

Yoshua Bengio, cunoscut drept „nașul AI”, avertizează că AI poate aduce un viitor „catastrofal” dacă tehnologia nu va fi gestionată potrivit.

Publicat: 4 noiembrie 2024, 7:23
Reclamă

Yoshua Bengio e unul dintre cei mai citați experți din domeniul inteligenței artificiale. E considerat un pionier în crearea rețelelor neuronale artificiale. A avut un aport semnificativ și ăn domeniul algoritmilor de învățare. 

Bengio, alături de Yann LeCun, expert AI în cadrul Meta, și Geoffrey Hinton, laureat al Premiului Nobel pentru Fizică, a primit Premiul Turing în 2018, scrie Live Science.

Premiul Turing e considerat echivalentul Premiului Nobel, dar în domeniul computațional. 

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

AI poate aduce un viitor „catastrofal”, avertizează „nașul” tehnologiei

Dacă inteligenţa artificială şi companiile care o dezvoltă nu vor fi strict reglementate şi controlate, AI poate aduce un viitor „catastrofal”, avertizează Yoshua Bengio. Cum Bengio e unul dintre pionierii sistemelor AI, declarațiile sale au atras atenția la nivel mondial, scrie AGERPRES

În prezent Yoshua Bengio este preşedintele comitetului consultativ în probleme de AI „International Scientific Report on the Safety of Advanced AI”. Acesta e un comitet susţinut de 30 de ţări, de UE şi de ONU.

Reclamă
Reclamă

Bengio se declară îngrijorat de ritmul de dezvoltare. Dar şi de răspândirea accelerată a acestei tehnologii. El consideră că inteligenţa artificială are potenţialul de a distruge structura societăţii umane. AI ar prezenta riscuri uriaşe pentru omenire, unele dintre ele încă nebănuite, susține Bengio. 

În interviul acordat Live Science, Yoshua Bengio mărturiseşte că este dificil să militeze împotriva propriului domeniu de activitate şi de expertiză. Dar precizează că posibilitatea rezultatelor catastrofale pentru omenire, atunci când AI-ul va ajunge la un anumit nivel, este imposibil de ignorat. Nu în ultimul rând, cercetătorul a mărturisit că s-a gândit la copiii săi şi la viitorul lor, atunci când vorbește despre cum AI poate aduce un viitor „catastrofal”. 

„Una dintre analogiile pe care le folosesc foarte mult este cea a întregii omeniri care conduce pe un drum necunoscut. Și în faţa sa este un perete de ceaţă,” a declarat Bengio. „Ne îndreptăm spre acea ceaţă. Și am putea fi pe un drum de munte şi în faţa noastră s-ar putea afla o trecătoare foarte periculoasă pe care nu o putem vedea suficient de limpede. Deci ce putem face? 

Yoshua Bengio e îngrijorat de tehnologia pe care a dezvoltat-o

„Continuăm să mergem cu viteză şi să sperăm că totul va fi bine, sau încercăm să venim cu nişte soluţii tehnologice?” a continuat Bengio. „Soluţia politică ne spune să aplicăm principiul precauţiei. Trebuie să încetinim dacă nu suntem siguri. Soluţia tehnică spune că trebuie să găsim modalităţi să vedem prin ceaţă. Și poate să echipăm vehiculul cu dispozitive de protecţie.”

Cercetătorul a precizat că riscurile legate de utilizarea şi dezvoltarea AI nu ţin de fantezia unui scenarist SF. Ci sunt cât se poate de concrete chiar şi în prezent. Ca urmare, acum îți folosește renumele în domeniu pentru a avertiza că AI poate aduce un viitor „catastrofal”. 

„Am văzut deja sistemele AI folosite în campania electorală americană. Există un studiu recent care a arătat că ChatGPT-4 este mult mai persuasiv decât pot fi oamenii. Iar noua versiune va fi şi mai şi”, a susţinut el.

„Există şi teste care arată modul în care aceste sisteme pot ajuta teroriştii. Recentul ChatGPT o1 a adus o modificare a acestui risc de la nivelul scăzut la cel mediu. Apoi, când vom ajunge cu AI-ul la nivelul de superinteligenţă apar două riscuri majore. Primul este pierderea controlului uman. Iar dacă maşinile superinteligente vor avea un obiectiv de autoconservare, atunci scopul lor ar putea fi să distrugă omenirea. Ca să nu le putem opri. Celălalt pericol, dacă primul nu se concretizează, este ca oameni să folosească puterea AI pentru a obţine controlul asupra întregii omeniri într-o dictatură planetară”, a mai susţinut el.

Bengio a adăugat că această tehnologie are potenţialul să ofere o putere fără precedent celui care o controlează.

Reclamă
Te-ar mai putea interesa și
Un adolescent,, similar cu cel care s-a sinucis din cauza unui chatbot AI, cu lumină albastră pe față
Un adolescent de 14 ani s-a sinucis din cauza unui chatbot AI. Cum l-ar fi convins tehnologia să își ia viața
Un adolescent de 14 ani s-a sinucis din cauza unui chatbot AI. Cum l-ar fi convins tehnologia să își ia viața
Robotul umanoid Ai-Da, în 2022, la Casa Lorzilor, Marea Britanie, care a realizat primul portret creat de un robot umanoid
Primul portret realizat de un robot umanoid va fi vândut cu o sumă enormă. Cât a câștigat la licitație AI God
Primul portret realizat de un robot umanoid va fi vândut cu o sumă enormă. Cât a câștigat la licitație AI God
Logo-ul Meta pe ecranul alb al unui telefon mobil, cu un laptop pe fundal, pentru a ilustra cum Meta lansează un model de inteligență artificială
Meta lansează Movie Gen, generatorul AI care poate crea videouri. Cum funcționează
Meta lansează Movie Gen, generatorul AI care poate crea videouri. Cum funcționează
RECOMANDĂRI USEIT.RO
1
Utilizatoare care ține un telefon în mână, pe care primește un apel, la masă gri. Există metode dacă te gândești cum poți afla cine te sună cu un număr necunoscut
Numerele pe care le folosesc hackerii. Nu răspunde la apelurile care au aceste prefixe, sfătuiesc experții
Experții au dezvăluit numerele pe care le folosesc hackerii frecvent, la care recomandă să nu răspunzi pentru a te proteja de încărcări semnificative la factură, dincolo de alte riscuri. În fiecare zi au loc...
Numerele pe care le folosesc hackerii. Nu răspunde la apelurile care au aceste prefixe, sfătuiesc experții
2
2 telefoane mobile care au aplicațiile SMS pe ecran, unul lângă altul, pentru a ilustra cum primești confirmare de citire SMS pe Android
Confirmare citire SMS pe Android. Cum îți dai seama dacă cineva ți-a citit mesajul trimis
Te-ai întrebat cum poți obține confirmare citire SMS pe Android? Unele aplicații deja au integrat un sistem care te atenționează dacă mesajul tău a fost citit de cel care l-a primit, dar, pentru SMS,...
Confirmare citire SMS pe Android. Cum îți dai seama dacă cineva ți-a citit mesajul trimis
3
Telefon ținut în mână, cu fereastra de mesaje deschisă, pentru a ilustra cum poți recupera mesajele șterse de pe telefon
Dacă primești aceste mesaje, trebuie să le ștergi imediat, susțin experții. La ce risc te expui dacă le păstrezi 
Experții avertizează că dacă primești aceste mesaje, trebuie să le ștergi imediat, fără să le accesezi sau să interacționezi cu link-urile sau informațiile din ele. Hackerii devin din ce în ce mai vicleni și...
Dacă primești aceste mesaje, trebuie să le ștergi imediat, susțin experții. La ce risc te expui dacă le păstrezi 
4
Persoană care poartă o pijama alb cu negru, care stă într-un picior pe un covor albastru, pe o podea din lemn, pentru a ilustra statul într-un picior timp de 10 secunde
„Testul flamingo” care îți poate dezvălui starea de sănătate reală. Cum funcționează trucul simplu
Unii experți susțin că „testul flamingo” îți poate dezvălui starea de sănătate reală, mai ales după vârsta de 50 de ani. Păsările flamingo sunt cunoscute pentru faptul că pot sta într-un singur picior. De...
„Testul flamingo” care îți poate dezvălui starea de sănătate reală. Cum funcționează trucul simplu
5
Femeie blondă, îmbrăcată într-o bluză albă, care e speriată când vorbește la telefon, pentru a ilustra apelul care îți poate goli contul bancar
Cum te poți feri de înșelătoriile la telefon. Detaliile la care trebuie să fii atent
Experții au dezvăluit cum te poți proteja de unele dintre înșelătoriile la telefon care au loc cel mai des și care au făcut deja numeroase victime la nivel mondial. Numărul înșelătoriile, fie online, fie...
Cum te poți feri de înșelătoriile la telefon. Detaliile la care trebuie să fii atent
PARTENERI
×