Există șanse de 99.9% ca AI să distrugă omenirea, susține un cercetător de top. Elon Musk nu e de acord

Mulți dintre experții care se află în spatele acestei tehnologii, însă, sunt îngrijorați din cauza impactului pe care îl poate avea asupra omenirii, scrie Tech Radar. 

Există și un termen pentru acest fenomen, care se referă la probabilitatea ca AI să nimicească civilizația umană – p(doom) (sau probability of doom). 

Există șanse de 99.9% ca AI să distrugă omenirea, susține un cercetător de top

Printre potențialele moduri în care AI ar putea să distrugă civilizația se numără crearea unei arme biologice. Sau începerea unui război nuclear. Există un spectru larg atunci când vine vorba de negativismul legat de p(doom). 

La un capăt se află Yann LeCun, numit și unul dintre „cei 3 nași ai AI”. În acest moment, LeCun e angajat în cadrul Meta și crede că există șanse mai mici de 0.01% ca AI să distrugă omenirea. Adică șanse mai mici decât să fim distruși de un asteroid. 

Dar LeCun e cam singurul dintre marii experți din domeniu care e atât de optimist. Geoff Hinton, unul dintre ceilalți nași ai AI, crede că sunt șanse de 10% ca AI să ne distrugă în următorii 20 de ani. Yoshua Bengio, al 3-lea naș AI, crede că șansele se apropie mai degrabă de 20%. 

Cel mai pesimist dintre experți pare să fie Roman Yampolskiy, un cercetător AI axat pe siguranță. Yampolskiy e și directorul laboratorului de securitate cibernetică din cadrul Universității din Louisville. 

Yampolskiy e convins că AI poate să distrugă omenirea, cu 99.9999999% șanse. Expertul a oferit această estimare în urma unor declarații ale lui Elon Musk, un critic al AI care totuși are propria companie Ai.

Elon Musk e îngrijorat din cauza inteligenței artificiale, dar deține o companie AI

„Cred că există unele șanse să distrugă omenirea,” a declarat Musk despre tehnologie în cadrul seminarului Great AI Debate din luna mai. „Probabil sunt de acord cu Geoff Hinton, că sunt șanse de 10 sau 20% sau așa ceva. Cred că scenariul pozitiv cel mai probabil e mai important decât cel negativ.” 

Ca răspuns la aceste declarații, Yampolskiy a declarat că Musk e „puțin cam prea reținut” în estimare. Expertul crede că trebuie să abandonăm dezvoltarea tehnologiei acum. 

Yampolskiy e îngrijorat că sunt șanse mari ca AI să distrugă omenirea. Și că tehnologia va ajunge să fie aproape imposibil de controlat. Nu e singurul care își face griji în acest sens, deși pare să fie cel mai radical.

„Nu știu de ce el crede că e o idee bună să dezvolte această tehnologie așa,” a declarat Yampolskiy. „Dacă Musk e îngrijorat din cauza faptului că unii competitori vor ajunge acolo primii, nu contează. Pentru că inteligența superioară care nu e controlată e la fel de rea, indiferent cine o dezvoltă.”