AI poate aduce un viitor „catastrofal”, avertizează „nașul” tehnologiei. Ce recomandă expertul Yoshua Bengio să facem pentru a ne proteja

Yoshua Bengio, cunoscut drept „nașul AI”, avertizează că AI poate aduce un viitor „catastrofal” dacă tehnologia nu va fi gestionată potrivit.

Publicat: 4 noiembrie 2024, 7:23
Reclamă

Yoshua Bengio e unul dintre cei mai citați experți din domeniul inteligenței artificiale. E considerat un pionier în crearea rețelelor neuronale artificiale. A avut un aport semnificativ și ăn domeniul algoritmilor de învățare. 

Bengio, alături de Yann LeCun, expert AI în cadrul Meta, și Geoffrey Hinton, laureat al Premiului Nobel pentru Fizică, a primit Premiul Turing în 2018, scrie Live Science.

Premiul Turing e considerat echivalentul Premiului Nobel, dar în domeniul computațional. 

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

AI poate aduce un viitor „catastrofal”, avertizează „nașul” tehnologiei

Dacă inteligenţa artificială şi companiile care o dezvoltă nu vor fi strict reglementate şi controlate, AI poate aduce un viitor „catastrofal”, avertizează Yoshua Bengio. Cum Bengio e unul dintre pionierii sistemelor AI, declarațiile sale au atras atenția la nivel mondial, scrie AGERPRES

În prezent Yoshua Bengio este preşedintele comitetului consultativ în probleme de AI „International Scientific Report on the Safety of Advanced AI”. Acesta e un comitet susţinut de 30 de ţări, de UE şi de ONU.

Reclamă
Reclamă

Bengio se declară îngrijorat de ritmul de dezvoltare. Dar şi de răspândirea accelerată a acestei tehnologii. El consideră că inteligenţa artificială are potenţialul de a distruge structura societăţii umane. AI ar prezenta riscuri uriaşe pentru omenire, unele dintre ele încă nebănuite, susține Bengio. 

În interviul acordat Live Science, Yoshua Bengio mărturiseşte că este dificil să militeze împotriva propriului domeniu de activitate şi de expertiză. Dar precizează că posibilitatea rezultatelor catastrofale pentru omenire, atunci când AI-ul va ajunge la un anumit nivel, este imposibil de ignorat. Nu în ultimul rând, cercetătorul a mărturisit că s-a gândit la copiii săi şi la viitorul lor, atunci când vorbește despre cum AI poate aduce un viitor „catastrofal”. 

„Una dintre analogiile pe care le folosesc foarte mult este cea a întregii omeniri care conduce pe un drum necunoscut. Și în faţa sa este un perete de ceaţă,” a declarat Bengio. „Ne îndreptăm spre acea ceaţă. Și am putea fi pe un drum de munte şi în faţa noastră s-ar putea afla o trecătoare foarte periculoasă pe care nu o putem vedea suficient de limpede. Deci ce putem face? 

Yoshua Bengio e îngrijorat de tehnologia pe care a dezvoltat-o

„Continuăm să mergem cu viteză şi să sperăm că totul va fi bine, sau încercăm să venim cu nişte soluţii tehnologice?” a continuat Bengio. „Soluţia politică ne spune să aplicăm principiul precauţiei. Trebuie să încetinim dacă nu suntem siguri. Soluţia tehnică spune că trebuie să găsim modalităţi să vedem prin ceaţă. Și poate să echipăm vehiculul cu dispozitive de protecţie.”

Cercetătorul a precizat că riscurile legate de utilizarea şi dezvoltarea AI nu ţin de fantezia unui scenarist SF. Ci sunt cât se poate de concrete chiar şi în prezent. Ca urmare, acum îți folosește renumele în domeniu pentru a avertiza că AI poate aduce un viitor „catastrofal”. 

„Am văzut deja sistemele AI folosite în campania electorală americană. Există un studiu recent care a arătat că ChatGPT-4 este mult mai persuasiv decât pot fi oamenii. Iar noua versiune va fi şi mai şi”, a susţinut el.

„Există şi teste care arată modul în care aceste sisteme pot ajuta teroriştii. Recentul ChatGPT o1 a adus o modificare a acestui risc de la nivelul scăzut la cel mediu. Apoi, când vom ajunge cu AI-ul la nivelul de superinteligenţă apar două riscuri majore. Primul este pierderea controlului uman. Iar dacă maşinile superinteligente vor avea un obiectiv de autoconservare, atunci scopul lor ar putea fi să distrugă omenirea. Ca să nu le putem opri. Celălalt pericol, dacă primul nu se concretizează, este ca oameni să folosească puterea AI pentru a obţine controlul asupra întregii omeniri într-o dictatură planetară”, a mai susţinut el.

Bengio a adăugat că această tehnologie are potenţialul să ofere o putere fără precedent celui care o controlează.

Reclamă
Te-ar mai putea interesa și
Bill Gates la evenimentul Sustainable Development Goals, în anul 2017. Fundal gri închis, costum negru, cămașă albastră
Fun
Programul de lucru de 2 zile va deveni o realitate în curând, susține Bill Gates. Când ar avea loc schimbarea
Programul de lucru de 2 zile va deveni o realitate în curând, susține Bill Gates. Când ar avea loc schimbarea
Bill Gates, anul 2019, pe scenă la evenimentul New York Times Dealbook, din New York. Îmbrăcat într-o bluză mov deschis, cu fundal albastru în spate. Bill Gates a vorbit despre planurile lui pentru 2022
Bill Gates a dezvăluit cele 3 joburi care nu vor fi preluate de AI. Toate celelalte sunt în pericol
Bill Gates a dezvăluit cele 3 joburi care nu vor fi preluate de AI. Toate celelalte sunt în pericol
Laptop deschis cu OpenAI pe ecran și un telefon cu ChatGPT pe ecran, pentru a ilustra industria pe care ChatGPT o poate schimba
Ce se întâmplă cu cei care folosesc ChatGPT des. Experții trag un semnal de alarmă despre efectul „bizar”
Ce se întâmplă cu cei care folosesc ChatGPT des. Experții trag un semnal de alarmă despre efectul „bizar”
RECOMANDĂRI USEIT.RO
1
Monede Bitcoin pe bancnote de 100 de dolari. Un bărbat a aruncat la gunoi o avere Bitcoin
Ce s-a întâmplat cu singura țară care a adoptat Bitcoin drept metodă legală de plată. Întreaga populație a fost afectată
Până acum, singura țară care a adoptat Bitcoin drept metodă legală de plată la nivel național a întâmpinat numeroase probleme.  În 2021, El Salvador a devenit singura țară care a acceptat oficial Bitcoin drept...
Ce s-a întâmplat cu singura țară care a adoptat Bitcoin drept metodă legală de plată. Întreaga populație a fost afectată
2
Laptop cu Microsoft Word pe ecran, similar cu alternativa gratuită DOCS
Europa lansează alternativă gratuită pentru Microsoft Word și Google Docs. Cum funcționează DOCS
Europa lansează alternativă gratuită pentru Microsoft Word și Google Docs cu noua platformă DOCS, creată în parteneriat de Franța și Germania.  Guvernele din Franța și Germania au anunțat recent DOCS. Acesta e un serviciu...
Europa lansează alternativă gratuită pentru Microsoft Word și Google Docs. Cum funcționează DOCS
3
Yangwang U9, mașină care poate sări peste obstacole, prezentată la Singapore MotorShow, ianuarie 2025, pe roșu
BYD a depășit Tesla. Ce vânzări record a avut la nivel global
Producătorul auto BYD a depășit Tesla la nivelul vânzărilor globale, cu vânzări anuale record pentru anul 2024.  BYD e un producător auto cunoscut din China. Potrivit celui mai recent raport, BYD ar fi avut...
BYD a depășit Tesla. Ce vânzări record a avut la nivel global
4
Imagine cu clădirile din New York, cer senin, care se numără printre cele mai bogate orașe din lume
Fun
Cel mai bogat oraș din lume. Aici locuiesc 350.000 de milionari și 60 de miliardari
În cel mai bogat oraș din lume locuiesc 350.000 de milionari și 60 de miliardari, potrivit celor mai recente date.  Atunci când vine vorba de cele mai bogate orașe din lume, există câteva locații...
Cel mai bogat oraș din lume. Aici locuiesc 350.000 de milionari și 60 de miliardari
5
Colaj cu iceberg și o barcă și pești de gheață, din descoperirea majoră în Oceanul Antarctic
Un ecosistem nemaivăzut a fost descoperit după ce un aisberg s-a desprins în Antarctica. Ce se ascundea în adâncuri
Un ecosistem nemaivăzut a fost descoperit după ce un aisberg enorm s-a desprins în Antarctica, una dintre regiunile cele mai afectate de încălzirea globală.  Pe 13 ianuarie 2025, un aisberg de mărimea orașului Chicago...
Un ecosistem nemaivăzut a fost descoperit după ce un aisberg s-a desprins în Antarctica. Ce se ascundea în adâncuri
PARTENERI
×