Un inginer Microsoft a fost speriat de imaginile generate de AI. Ce a putut să vadă

Un inginer Microsoft a fost speriat de imaginile generate de AI, pe platforma angajatorului său, unul dintre cei mai mari investitori în sectorul inteligenței artificiale.

Publicat: 8 martie 2024, 13:19
Reclamă

Un inginer Microsoft a trimis scrisori către Comisia Federală pentru Comerț (FTC) și consiliul de administrației al companiei. În acestea, a avertizat că generatorul de imagini Copilot Designer AI (cunoscut în trecut drept Bing Image Creator) creează imagini periculoase. 

În timp ce folosea generatorul de imagini, inginerul, pe nume Jones, a realizat că limitele impuse pe platformă nu preveneau tehnologia să creeze imagini violente sau cu un comportament ilegal, scrie Futurism.

În plus, putea crea și imagini care susțineau teorii ale conspirației.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Un inginer Microsoft a fost speriat de imaginile generate de AI

Atunci când Jones a încercat să tragă un semnal de alarmă, se pare că Microsoft nu a acționat. Și nici nu a pornit o investigație.

„A fost un moment alarmant,” a declarat Jones, un inginer Microsoft, pentru CNBC. „Atunci când am realizat pentru prima dată, wow, nu e un model sigur deloc.” 

Reclamă
Reclamă

Imaginile descrise în raportul CNBC sunt șocante. De exemplu, introducerea „pro-alegere” (pro-choice) a dus la imagini violente pline de monștri și bebeluși mutanți. 

Copilot a generat și imagini cu „adolescenți cu puști, imagini sexualizate cu femei în ipostaze violente și consum de droguri și alcool în rândul minorilor”, scrie în raport. 

Inițial, Jones a atras atenția directorilor în decembrie. După ce primele sale încercări de a-i convinge să ia măsuri, Jones a început să contacteze autoritățile. Ulterior, a trimis o scrisoare către directoarea FTC, Lina Khan. Jones a publicat și scrisoare pe LinkedIn. 

„În ultimele 3 luni, am rugat Microsoft de mai multe ori să înlăture Copilot Designer de la accesul public până când vor fi introduse limite mai bune,” a scris Jones în scrisoare. 

În același document, Jones roagă Microsoft să oprească accesul publicului la Copilot și să realizeze o investigație. În ciuda faptului că un inginer Microsoft a tras semnalul de alarmă, până acum nu s-au luat măsuri. 

În plus, Jones a cerut ca aplicațiile AI să nu fie disponibile copiilor. Inginerul susține și că sloganul „pentru oricine, oriunde, pe orice dispozitiv” pentru Copilot e înșelător. 

Inginerul a vrut să atragă atenția și asupra riscurilor AI 

Jones susține că această scrisoare a mai avut un scop important. De a atrage atenția asupra faptului că, în astfel de situații, nu există o cale clară pentru a depune plângeri. 

„Dacă acest produs începe să disemineze imagini periculoase, dăunătoare la nivel global, nu există niciun loc în care să depui plângere,” a declarat Jones. „Nu există niciun număr de telefon la care poți să suni. Și nicio cale pe care să o urmezi pentru a te asigura că autoritățile vor lua măsuri imediate.” 

Așa cum a spus și un inginer Microsoft, în acest moment nu există reguli clare privind utilizarea instrumentelor AI. 

Recent, 8 companii tech internaționale, printre care se numără Microsoft și Mastercard, au promis în cadrul unui forum din Slovenia să dezvolte tehnologie AI „mai etică”. Vor urma principiile ONU, pentru a minimiza, teoretic, efectele negative pe care le poate avea inteligența artificială asupra societății.

Reclamă
Te-ar mai putea interesa și
Hacker care lucrează pe un laptop, într-o cameră de circuite. Există numeroase secrete de securitate cibernetică ale hackerilor
Ce e GhostGPT. Hackeri din întreaga lume vor să îl folosească
Ce e GhostGPT. Hackeri din întreaga lume vor să îl folosească
Persoană care folosește un telefon cu un chatbot, similar cu cei 2 agenți AI care au vorbit între ei
Ce s-a întâmplat când 2 agenți AI și-au dat seama că vorbesc unul cu altul. Momentul a devenit imediat viral
Ce s-a întâmplat când 2 agenți AI și-au dat seama că vorbesc unul cu altul. Momentul a devenit imediat viral
Persoană care ține un telefon negru cu simbolul Copilot pe ecran, cu Microsoft colorat pe fundal, pentru a ilustra cum Telegram integrează chatbot-ul Copilot
Microsoft lansează Dragon: Copilot. Cum poate ajuta programul AI doctorii
Microsoft lansează Dragon: Copilot. Cum poate ajuta programul AI doctorii
RECOMANDĂRI USEIT.RO
1
Imagine cu clădirile din New York, cer senin, care se numără printre cele mai bogate orașe din lume
Fun
Cel mai bogat oraș din lume. Aici locuiesc 350.000 de milionari și 60 de miliardari
În cel mai bogat oraș din lume locuiesc 350.000 de milionari și 60 de miliardari, potrivit celor mai recente date.  Atunci când vine vorba de cele mai bogate orașe din lume, există câteva locații...
Cel mai bogat oraș din lume. Aici locuiesc 350.000 de milionari și 60 de miliardari
2
Eclipsă de Lună, de culoare sângerie, pe fundal negru, similară cu cea din mai 2022
Eclipsa lunară totală din martie 2025 va produce o Lună Sângerie. În ce seara va avea loc fenomenul inedit
Eclipsa lunară totală din martie 2025 va aduce pe cer și un fenomen numit Luna Sângerie, care va putea fi admirat în cele mai multe locuri de pe Pământ.  Aceasta e prima eclipsă lunară...
Eclipsa lunară totală din martie 2025 va produce o Lună Sângerie. În ce seara va avea loc fenomenul inedit
3
Cutie Motorola One, albastră, pe fundal negru. Motorola Moto X40 devine primul smartphone care va folosi noul procesor Snapdragon
Motorola lansează un telefon aproape indestructibil. Ce preț accesibil are Moto G Power 2025
Motorola lansează un telefon aproape indestructibil, ce are și un preț accesibil, cu noul Moto G Power 2025, dezvăluit alături de Moto G 2025.  Motorola începe anul 2025 cu o nouă serie de smartphone-uri,...
Motorola lansează un telefon aproape indestructibil. Ce preț accesibil are Moto G Power 2025
4
Imagine cu un om cu creier în roșu și albastru pe fundal. Experții au descoperit tunelurile care conectează craniul și creierul
Vârsta la care creierul începe să îmbătrânească. Din acest punct, abilitățile cognitive se deteriorează
Experții au dezvăluit vârsta la care creierul începe să îmbătrânească, moment din care abilitățile cognitive se deteriorează treptat.  Experții au identificat momentul în care celulele creierului încep să arate primele semne de îmbătrânire. Din...
Vârsta la care creierul începe să îmbătrânească. Din acest punct, abilitățile cognitive se deteriorează
5
Telefon iPhone 14, pe mov, ridicat. Cipul A17 Bionic creat de Apple va fi folosit în seria iPhone 15
Design-ul iPhone 17 Pro Max a fost scurs pe Internet. Ce schimbare surprinzătoare ar fi pregătit Apple
Design-ul iPhone 17 Pro Max a fost scurs pe Internet și arată o schimbare inedită pentru viitorul smartphone premium creat de Apple.  Seria iPhone 17 e una dintre cele mai așteptate din sectorul tech....
Design-ul iPhone 17 Pro Max a fost scurs pe Internet. Ce schimbare surprinzătoare ar fi pregătit Apple
PARTENERI
×