Google a eliminat interdicția împotriva armelor AI. Semnalul de alarmă tras de angajați: „Oare noi suntem oamenii răi?”

Compania mamă a Google, numită Alphabet, a ridicat o interdicție veche împotriva utilizării inteligenței artificiale pentru a dezvolta arme și unelte de supraveghere. Aceasta era una dintre cele mai apreciate reguli pe care le urma Google.

Eliminarea interdicției a fost numită „extrem de îngrijorătoare” de către Human Rights Watch, un ONG axat pe drepturile omului, scrie BBC News.

Alphabet a rescris regulile proprii despre cum va folosi AI. Pe listă se află și o secțiune care, în trecut, excludea utilizări „care ar avea șanse mari să provoace rău”.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Google a eliminat interdicția împotriva armelor AI

Human Rights Watch a criticat decizia. Potrivit reprezentanților, AI poate „complica răspunderea” pentru deciziile luate în război, ce pot avea „consecințe de viață și de moarte”. Într-un mesaj pe blogul oficial, Google a apărat faptul că a eliminat interdicția împotriva armelor AI.

Compania susține că afacerile și guvernele democratice trebuie să coopereze pentru ca AI să „susțină siguranța națională”. Schimbarea a avut loc la doar câteva zile după ce Donald Trump a anunțat Proiectul Stargate.

Reclamă

Experții susțin că tehnologia AI poate fi folosită pe câmpul de luptă. Dar există îngrijorări legate de modul în care poate fi utilizată. Mai ales în contextul sistemelor autonome de arme.

„Ca un lider global în industrie să abandoneze linia roșie pe care și-a asumat-o semnalizează o schimbare îngrijorătoare. Mai ales într-o perioadă în care avem nevoie de o conducere responsabilă în domeniul AI,” a declarat Anna Bacciarelli, cercetător AI în cadrul ONG-ului.

Potrivit ei, această decizie „unilaterală” arată și că „principiile voluntare nu sunt un substitut adecvat pentru legi”. În mesajul publicat pe blog, Alphabet susține că democrațiile trebuie să conducă dezvoltarea AI, ghidate de „principiile de bază”, precum libertatea, egalitatea și respectul pentru drepturile omului.

Mesajul a fost semnat de vicepreședintele James Manyika și Sir Demis Hassabis, care conduce Google DeepMind, laboratorul AI al Google. Potrivit acestora, principiile AI ale Google au fost publicate în 2018. Acestea aveau nevoie de o actualizare în contextul dezvoltării tehnologiei, susțin ei.

Angajații Google critică decizia AI

Acum că Google a eliminat interdicția împotriva armelor AI, valul de critici nu s-a lăsat așteptat. Îngrijorările legate de potențialul militar al AI au crescut în ultimii ani. Pe măsură ce tehnologia devine mai folosită și sofisticată, va „schimba modul în care funcționează apărarea, de la birou la tranșee”, a declarat Emma Lewell-Buck, politician în Marea Britanie.

Dincolo de oficiali și experți, și angajații Google au criticat faptul că firma a eliminat interdicția împotriva armelor AI. Unii dintre ei au publicat mesaje pe platforma internă a companiei, numită Memegen, scrie Business Insider.

Într-un meme publicat de angajați, CEO-ul Sunday Pichai e arătat în timp ce caută pe Google „cum să ajungi vânzător de arme?”. În alt mesaj, e folosit un meme cu un soldat nazist care întreabă „Oare noi suntem oamenii răi?”

Un alt meme a folosit personajul Sheldon, din The Big Bang Theory. Cu acesta, a făcut legătura între ridicarea interdicției și rapoarte potrivit cărora Google va colabora cu mai mulți clienți. Printre aceștia se numără și Pentagonul.