Riscul unei super inteligențe artificiale, potrivit experților. De ce sunt îngrijorați

Experții au dezvăluit recent riscul unei super inteligențe artificiale, ce ar putea fi construită pe viitor. Un astfel de program ar putea avea capacități ce nu pot fi controlate de către oameni.

Publicat: 30 septembrie 2022, 8:03
Reclamă

Ideea potrivit căreia un program de inteligență artificială ar putea să afecteze negativ societatea e veche de mai multe decenii. Recent, experții au oferit un verdict clar asupra acestei teorii. Potrivit acestora, un program AI super inteligent ar fi un risc pentru umanitate.

Experții cred că un astfel de program ar fi periculos pentru că nu ar putea fi controlat de către oameni, scrie Science Alert

Potrivit specialiștilor, controlarea unei astfel de inteligențe artificiale trece dincolo de abilitățile de înțelegere ale oamenilor.

Riscul unei super inteligențe artificiale, potrivit experților

Controlarea acestui program ar necesita o simulare a acestei super inteligențe, pe care oamenii să o poată analiza. Dacă aceștia nu vor avea abilitatea de înțelegere, crearea unei astfel de simulări e imposibilă. 

Ca urmare, riscul unei super inteligențe artificiale e semnificativ, dacă un astfel de program va fi creat vreodată. 

Reclamă
Reclamă

Reguli precum „nu răni oamenii” nu pot fi introdus în program dacă experții care îl contruiesc nu pot anticipa scenariile pe care le-ar genera acesta. Autorii noului studiu, atunci când un sistem computațional trece dincolo de înțelegerea programatorilor, atunci aceștia nu vor mai putea seta limite pentru el.

„O super inteligență e o problemă fundamental diferită față de cele obișnuite, studiate în nișa de etică a roboticii,” au scris experții în lucrarea științifică publicată în Journal of Artificial Intelligence Research. 

„Pentru că super inteligența are mai multe fațete și, astfel, e potențial capabilă să mobilizeze o diversitate de resurse pentru a atinge obiectivele ce sunt potențial de neînțeles pentru oameni sau controlabile,” au continuat ei. 

Echipa de cercetare și-a bazat argumentul pe teoria lui Alan Turing, din 1936. Problema e dacă un program va ajunge la un răspuns sau dacă va rămâne blocat într-o buclă în căutarea unei concluzii. 

Recent, experții au vorbit și despre cele 4 abilități care nu vor putea fi înlocuite de inteligența artificială.

Turing a reușit să demonstreze că e logic imposibil să găsim o metodă ce ar permite oamenilor să știe un răspuns clar la această întrebare pentru toate tipurile de programe ce ar putea fi create. 

Într-o stare super inteligentă, un program AI ar putea stoca în memorie orice program computațional, în același timp.

Ca urmare, experții au analizat riscul unei super inteligențe artificiale și au concluzionat că acesta ar putea fi semnificativ. 

Un angajat Google a susținut că un program de inteligență artificială are conștiință

În 2022, un angajat Google a fost suspendat după ce a susținut că un program de inteligență artificială are conștiință. Blake Lemoine, inginer în cadrul Google, a folosit mai multe conversații cu programul LaMDA pentru a-și susține punctul de vedere. 

Tehnologia poate fi folosită în sisteme precum Google Assistant și bara de căutare, potrivit Google. LaMDA încă se află în stadiul de cercetare și testare. Recent, însă, experții au vorbit despre riscul unei super inteligențe artificiale. 

Lemoine a publicat un articol pe Medium, în care a descris LaMDA drept „o persoană”. Potrivit lui Lemoine, el a vorbit cu LaMDA despre religie, conștiință și legile roboticii. Modelul de inteligență artificială s-ar fi descris drept o persoană conștientă. Ca urmare, angajatul Google a anunțat compania de descoperirea sa. În urma avertismentului și articolului, Google l-a suspendat pe Lemoine.

Reclamă
Te-ar mai putea interesa și
Robot Terminator, cu fața lui Arnold Schwarzenegger pe fundal, pentru a ilustra cum experții au creat un material Terminator
Experții au creat un material „Terminator” care se repară singur. Cum reușește
Experții au creat un material „Terminator” care se repară singur. Cum reușește
Persoană cu o mână umană și o mână albă de robot, care scrie pe tastatura unui laptop, pentru a ilustra schimbarea care ar putea fi „mai profundă” decât focul
Un adolescent a creat un program care poate identifica video-urile deep fake. Reușita sa i-a adus un premiu
Un adolescent a creat un program care poate identifica video-urile deep fake. Reușita sa i-a adus un premiu
Mâinile unui utilizator, cu craniul unui robot alb între ele. Recent, un angajat Google a fost suspendat după ce a atras atenția aupra unui program de inteligență artificială
Experții avertizează că inteligența artificială ar putea duce la dispariția oamenilor. De ce îi îngrijorează atât de mult tehnologia
Experții avertizează că inteligența artificială ar putea duce la dispariția oamenilor. De ce îi îngrijorează atât de mult tehnologia
RECOMANDĂRI USEIT.RO
1
Biserică din Cișinău, Moldova, surprinsă din aer, cu pereți albi, una dintre cele mai sărace țări din Europa
Fun
Cele mai sărace țări din Europa. Pe ce loc se află România
Puțini știu care sunt, în acest moment, cele mai sărace țări din Europa, din punct de vedere al produsului intern brut pe cap de locuitor. Potrivit rezultatelor Eurostat, pentru aproximativ 21.7% din populația Uniunii...
Cele mai sărace țări din Europa. Pe ce loc se află România
2
Utilizator care ține în mână un telefon cu WhatsApp pe ecran. WhatsApp a dezvăluit pe ce telefoane nu va mai funcționa în 2023
Link-ul pe care nu trebuie să îl trimiți pe WhatsApp. Ce se întâmplă în aplicație dacă nu asculți sfatul experților
Experții atrag atenția că există link-ul pe care nu trebuie să îl trimiți pe WhatsApp, spre îngrijorarea utilizatorilor. Utilizatorii WhatsApp au fost avertizați să nu trimită niciodată un link care poate bloca aplicația. Cei...
Link-ul pe care nu trebuie să îl trimiți pe WhatsApp. Ce se întâmplă în aplicație dacă nu asculți sfatul experților
3
Colonie de termite din Tanzania, decorată cu capete de vaci, pe fundal cu verdeață, pentru a ilustra cum experții au vărsat 10 tone de ciment în pământ pentru a descoperi o colonie de furnici
Experții au vărsat 10 tone de ciment în pământ pentru a descoperi un „mega-oraș”. Ce viețuitoare au construit structura impresionantă
Experții au vărsat 10 tone de ciment în pământ pentru a descoperi un „mega-oraș” abandonat, ce nu a fost creat de oameni.  Experții au descoperit o fostă colonie de furnici. Pentru a o explora,...
Experții au vărsat 10 tone de ciment în pământ pentru a descoperi un „mega-oraș”. Ce viețuitoare au construit structura impresionantă
4
Vârful Everest, înconjurat de zăpadă, într-o zi luminoasă, pentru a ilustra munții ascunși de pe Pământ
Munții ascunși de pe Pământ. Unde se găsesc vârfurile care au înălțimi de 4 ori mai mari decât Everest
Munții ascunși de pe Pământ care au uimit experții au vârfuri care au înălțimi de 4 ori mai mari decât Everest, considerat cel mai înalt punct de pe planetă.  În adâncul Pământului se găsesc...
Munții ascunși de pe Pământ. Unde se găsesc vârfurile care au înălțimi de 4 ori mai mari decât Everest
5
Imagine digitală cu un virus care pare înghețat, pe fundal de roz și portocaliu, pentru a ilustra virusuri antice descoperite în permafrost
Virusuri antice descoperite în permafrost. Organismele îngrijorează experții
Virusuri antice descoperite în permafrost ar putea reprezenta un pericol pentru formele de viață moderne, precum oamenii.   În solurile înghețate artice există numeroși microbi antici. Aceste bacterii și virusuri au existat în urmă...
Virusuri antice descoperite în permafrost. Organismele îngrijorează experții
PARTENERI
×