Riscul unei super inteligențe artificiale, potrivit experților. De ce sunt îngrijorați

Experții au dezvăluit recent riscul unei super inteligențe artificiale, ce ar putea fi construită pe viitor. Un astfel de program ar putea avea capacități ce nu pot fi controlate de către oameni.

Publicat: 30 septembrie 2022, 8:03
Reclamă

Ideea potrivit căreia un program de inteligență artificială ar putea să afecteze negativ societatea e veche de mai multe decenii. Recent, experții au oferit un verdict clar asupra acestei teorii. Potrivit acestora, un program AI super inteligent ar fi un risc pentru umanitate.

Experții cred că un astfel de program ar fi periculos pentru că nu ar putea fi controlat de către oameni, scrie Science Alert

Potrivit specialiștilor, controlarea unei astfel de inteligențe artificiale trece dincolo de abilitățile de înțelegere ale oamenilor.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Riscul unei super inteligențe artificiale, potrivit experților

Controlarea acestui program ar necesita o simulare a acestei super inteligențe, pe care oamenii să o poată analiza. Dacă aceștia nu vor avea abilitatea de înțelegere, crearea unei astfel de simulări e imposibilă. 

Ca urmare, riscul unei super inteligențe artificiale e semnificativ, dacă un astfel de program va fi creat vreodată. 

Reclamă
Reclamă

Reguli precum „nu răni oamenii” nu pot fi introdus în program dacă experții care îl contruiesc nu pot anticipa scenariile pe care le-ar genera acesta. Autorii noului studiu, atunci când un sistem computațional trece dincolo de înțelegerea programatorilor, atunci aceștia nu vor mai putea seta limite pentru el.

„O super inteligență e o problemă fundamental diferită față de cele obișnuite, studiate în nișa de etică a roboticii,” au scris experții în lucrarea științifică publicată în Journal of Artificial Intelligence Research. 

„Pentru că super inteligența are mai multe fațete și, astfel, e potențial capabilă să mobilizeze o diversitate de resurse pentru a atinge obiectivele ce sunt potențial de neînțeles pentru oameni sau controlabile,” au continuat ei. 

Echipa de cercetare și-a bazat argumentul pe teoria lui Alan Turing, din 1936. Problema e dacă un program va ajunge la un răspuns sau dacă va rămâne blocat într-o buclă în căutarea unei concluzii. 

Recent, experții au vorbit și despre cele 4 abilități care nu vor putea fi înlocuite de inteligența artificială.

Turing a reușit să demonstreze că e logic imposibil să găsim o metodă ce ar permite oamenilor să știe un răspuns clar la această întrebare pentru toate tipurile de programe ce ar putea fi create. 

Într-o stare super inteligentă, un program AI ar putea stoca în memorie orice program computațional, în același timp.

Ca urmare, experții au analizat riscul unei super inteligențe artificiale și au concluzionat că acesta ar putea fi semnificativ. 

Un angajat Google a susținut că un program de inteligență artificială are conștiință

În 2022, un angajat Google a fost suspendat după ce a susținut că un program de inteligență artificială are conștiință. Blake Lemoine, inginer în cadrul Google, a folosit mai multe conversații cu programul LaMDA pentru a-și susține punctul de vedere. 

Tehnologia poate fi folosită în sisteme precum Google Assistant și bara de căutare, potrivit Google. LaMDA încă se află în stadiul de cercetare și testare. Recent, însă, experții au vorbit despre riscul unei super inteligențe artificiale. 

Lemoine a publicat un articol pe Medium, în care a descris LaMDA drept „o persoană”. Potrivit lui Lemoine, el a vorbit cu LaMDA despre religie, conștiință și legile roboticii. Modelul de inteligență artificială s-ar fi descris drept o persoană conștientă. Ca urmare, angajatul Google a anunțat compania de descoperirea sa. În urma avertismentului și articolului, Google l-a suspendat pe Lemoine.

Reclamă
Te-ar mai putea interesa și
Utilizator care are un telefon cu WhatsApp pe ecran. Experții au emis avertismente urgente pentru utilizatorii WhatsApp
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Cercul albastru pe WhatsApp: ce înseamnă și de ce nu poți dezactiva noul simbol
Un robot alb care vorbește cu un adolescent care își face temele, amândoi pe canapea, pentru a ilustra ce e efectul Eliza
Un model AI a trecut de testul Turing, în premieră mondială. Cum a reușit
Un model AI a trecut de testul Turing, în premieră mondială. Cum a reușit
Laptop deschis cu OpenAI pe ecran și un telefon cu ChatGPT pe ecran, pentru a ilustra industria pe care ChatGPT o poate schimba
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră. Pentru ce opțiune există o „cerere biblică”
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră. Pentru ce opțiune există o „cerere biblică”
RECOMANDĂRI USEIT.RO
1
Utilizator care ține în mână un telefon cu logo-ul Android pe ecran, cu semn malware pe fundal. Google avertizează acum milioane de utilizatori Android să șteargă aplicațiile periculoase
Spyware găsit pe zeci de aplicații Android. Ce utilizatori au fost afectați, potrivit experților
Guverne din mai multe țări au dezvăluit că spyware a fost găsit pe zeci de aplicații Android, care au fost descărcate deja de utilizatori.  O coaliție de guverne a publicat o listă cu aplicații...
Spyware găsit pe zeci de aplicații Android. Ce utilizatori au fost afectați, potrivit experților
2
Bill Gates, îmbrăcat în costum, pe scenă la Malaria Summit , Londra, Anglia, 2018, cu mov pe fundal. Averile lui Elon Musk, Jeff Bezos și Bill Gates sunt unele dintre cele mai mari din lume
Primul sistem de operare creat de Bill Gates și Paul Allen poate fi descărcat de oricine acum: „E cel mai cool cod pe care l-am scris vreodată
Primul sistem de operare creat de Bill Gates și Paul Allen în urmă cu 50 de ani poate fi descărcat acum de oricine, gratuit.  Bill Gates, co-fondatorul Microsoft, a sărbătorit istoria de 50 de...
Primul sistem de operare creat de Bill Gates și Paul Allen poate fi descărcat de oricine acum: „E cel mai cool cod pe care l-am scris vreodată
3
Dispozitiv Nintendo Switch, ce a vândut peste 100 de milioane de unități, în mâna unui utilizator, cu un joc pe ecran
Nintendo a dezvăluit data de lansare pentru consola Switch 2. Ce preț va avea
Nintendo a dezvăluit data de lansare pentru consola Switch 2, unul dintre cele mai așteptate dispozitive de gaming.  Data de lansare pentru noua consolă a fost confirmată recent de către Nintendo. Spre încântarea fanilor,...
Nintendo a dezvăluit data de lansare pentru consola Switch 2. Ce preț va avea
4
Laptop deschis cu OpenAI pe ecran și un telefon cu ChatGPT pe ecran, pentru a ilustra industria pe care ChatGPT o poate schimba
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră. Pentru ce opțiune există o „cerere biblică”
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră e disponibilă gratuit și a dus la o „cerere biblică”, potrivit OpenAI. ChatGPT a înregistrat o creștere record după ce a lansat...
Funcția ChatGPT care a atras 1 milion de utilizatori într-o singură oră. Pentru ce opțiune există o „cerere biblică”
5
Colaj cu Jeff Bezos și Elon Musk, unii dintre cei mai bogați oameni din lume. Fondatorul Amazon l-a sfătuit pe Elon Musk cu privire la sediul Twitter
Fun
Cei mai bogați oameni din lume în 2025. Câți români au ajuns pe lista miliardarilor creată de Forbes
Forbes a dezvăluit lista cu cei mai bogați oameni din lume în 2025, top în care se află și unii români, dincolo de cei mai cunoscuți miliardari din lume.  Încă din 1987, Forbes a...
Cei mai bogați oameni din lume în 2025. Câți români au ajuns pe lista miliardarilor creată de Forbes
PARTENERI
×