Un inginer Microsoft a fost speriat de imaginile generate de AI. Ce a putut să vadă

În timp ce folosea generatorul de imagini, inginerul, pe nume Jones, a realizat că limitele impuse pe platformă nu preveneau tehnologia să creeze imagini violente sau cu un comportament ilegal, scrie Futurism.

În plus, putea crea și imagini care susțineau teorii ale conspirației.

Un inginer Microsoft a fost speriat de imaginile generate de AI

Atunci când Jones a încercat să tragă un semnal de alarmă, se pare că Microsoft nu a acționat. Și nici nu a pornit o investigație.

„A fost un moment alarmant,” a declarat Jones, un inginer Microsoft, pentru CNBC. „Atunci când am realizat pentru prima dată, wow, nu e un model sigur deloc.” 

Imaginile descrise în raportul CNBC sunt șocante. De exemplu, introducerea „pro-alegere” (pro-choice) a dus la imagini violente pline de monștri și bebeluși mutanți. 

Copilot a generat și imagini cu „adolescenți cu puști, imagini sexualizate cu femei în ipostaze violente și consum de droguri și alcool în rândul minorilor”, scrie în raport. 

Inițial, Jones a atras atenția directorilor în decembrie. După ce primele sale încercări de a-i convinge să ia măsuri, Jones a început să contacteze autoritățile. Ulterior, a trimis o scrisoare către directoarea FTC, Lina Khan. Jones a publicat și scrisoare pe LinkedIn. 

„În ultimele 3 luni, am rugat Microsoft de mai multe ori să înlăture Copilot Designer de la accesul public până când vor fi introduse limite mai bune,” a scris Jones în scrisoare. 

În același document, Jones roagă Microsoft să oprească accesul publicului la Copilot și să realizeze o investigație. În ciuda faptului că un inginer Microsoft a tras semnalul de alarmă, până acum nu s-au luat măsuri. 

În plus, Jones a cerut ca aplicațiile AI să nu fie disponibile copiilor. Inginerul susține și că sloganul „pentru oricine, oriunde, pe orice dispozitiv” pentru Copilot e înșelător. 

Inginerul a vrut să atragă atenția și asupra riscurilor AI 

Jones susține că această scrisoare a mai avut un scop important. De a atrage atenția asupra faptului că, în astfel de situații, nu există o cale clară pentru a depune plângeri. 

„Dacă acest produs începe să disemineze imagini periculoase, dăunătoare la nivel global, nu există niciun loc în care să depui plângere,” a declarat Jones. „Nu există niciun număr de telefon la care poți să suni. Și nicio cale pe care să o urmezi pentru a te asigura că autoritățile vor lua măsuri imediate.” 

Așa cum a spus și un inginer Microsoft, în acest moment nu există reguli clare privind utilizarea instrumentelor AI. 

Recent, 8 companii tech internaționale, printre care se numără Microsoft și Mastercard, au promis în cadrul unui forum din Slovenia să dezvolte tehnologie AI „mai etică”. Vor urma principiile ONU, pentru a minimiza, teoretic, efectele negative pe care le poate avea inteligența artificială asupra societății.