Un inginer Microsoft a fost speriat de imaginile generate de AI. Ce a putut să vadă

Un inginer Microsoft a fost speriat de imaginile generate de AI, pe platforma angajatorului său, unul dintre cei mai mari investitori în sectorul inteligenței artificiale.

Publicat: 8 martie 2024, 13:19
Reclamă

Un inginer Microsoft a trimis scrisori către Comisia Federală pentru Comerț (FTC) și consiliul de administrației al companiei. În acestea, a avertizat că generatorul de imagini Copilot Designer AI (cunoscut în trecut drept Bing Image Creator) creează imagini periculoase. 

În timp ce folosea generatorul de imagini, inginerul, pe nume Jones, a realizat că limitele impuse pe platformă nu preveneau tehnologia să creeze imagini violente sau cu un comportament ilegal, scrie Futurism.

În plus, putea crea și imagini care susțineau teorii ale conspirației.

ARTICOLUL CONTINUĂ DUPĂ RECLAMĂ

Un inginer Microsoft a fost speriat de imaginile generate de AI

Atunci când Jones a încercat să tragă un semnal de alarmă, se pare că Microsoft nu a acționat. Și nici nu a pornit o investigație.

„A fost un moment alarmant,” a declarat Jones, un inginer Microsoft, pentru CNBC. „Atunci când am realizat pentru prima dată, wow, nu e un model sigur deloc.” 

Reclamă
Reclamă

Imaginile descrise în raportul CNBC sunt șocante. De exemplu, introducerea „pro-alegere” (pro-choice) a dus la imagini violente pline de monștri și bebeluși mutanți. 

Copilot a generat și imagini cu „adolescenți cu puști, imagini sexualizate cu femei în ipostaze violente și consum de droguri și alcool în rândul minorilor”, scrie în raport. 

Inițial, Jones a atras atenția directorilor în decembrie. După ce primele sale încercări de a-i convinge să ia măsuri, Jones a început să contacteze autoritățile. Ulterior, a trimis o scrisoare către directoarea FTC, Lina Khan. Jones a publicat și scrisoare pe LinkedIn. 

„În ultimele 3 luni, am rugat Microsoft de mai multe ori să înlăture Copilot Designer de la accesul public până când vor fi introduse limite mai bune,” a scris Jones în scrisoare. 

În același document, Jones roagă Microsoft să oprească accesul publicului la Copilot și să realizeze o investigație. În ciuda faptului că un inginer Microsoft a tras semnalul de alarmă, până acum nu s-au luat măsuri. 

În plus, Jones a cerut ca aplicațiile AI să nu fie disponibile copiilor. Inginerul susține și că sloganul „pentru oricine, oriunde, pe orice dispozitiv” pentru Copilot e înșelător. 

Inginerul a vrut să atragă atenția și asupra riscurilor AI 

Jones susține că această scrisoare a mai avut un scop important. De a atrage atenția asupra faptului că, în astfel de situații, nu există o cale clară pentru a depune plângeri. 

„Dacă acest produs începe să disemineze imagini periculoase, dăunătoare la nivel global, nu există niciun loc în care să depui plângere,” a declarat Jones. „Nu există niciun număr de telefon la care poți să suni. Și nicio cale pe care să o urmezi pentru a te asigura că autoritățile vor lua măsuri imediate.” 

Așa cum a spus și un inginer Microsoft, în acest moment nu există reguli clare privind utilizarea instrumentelor AI. 

Recent, 8 companii tech internaționale, printre care se numără Microsoft și Mastercard, au promis în cadrul unui forum din Slovenia să dezvolte tehnologie AI „mai etică”. Vor urma principiile ONU, pentru a minimiza, teoretic, efectele negative pe care le poate avea inteligența artificială asupra societății.

Reclamă
Te-ar mai putea interesa și
Elon Musk în China, 2018, când s-a întâlnit cu Li Keqiang, îmbrăcat în costum negru, cu o cămașă albă. Abaterea care l-a îmbogățit pe Elon Musk cu 156 de milioane de dolari e investigată acum
Elon Musk crede că AI va depăși inteligența umană în 2025. Cum crede că trebuie să se pregătească oamenii pentru acest moment
Elon Musk crede că AI va depăși inteligența umană în 2025. Cum crede că trebuie să se pregătească oamenii pentru acest moment
Telefon Samsung Galaxy S10, pe albastru, într-o imagine macro. Unele telefoane Samsung Galaxy S au fost acuzate că influențau performanța aplicațiilor
Samsung introduce 7 limbi străine și 5 dialecte noi în Galaxy AI. Limba română se numără printre ele
Samsung introduce 7 limbi străine și 5 dialecte noi în Galaxy AI. Limba română se numără printre ele
Laptop deschis cu OpenAI pe ecran și un telefon cu ChatGPT pe ecran, pentru a ilustra industria pe care ChatGPT o poate schimba
OpenAI lansează GPT-4-Turbo într-o versiune „mult îmbunătățită”. Când va ajunge pe ChatGPT
OpenAI lansează GPT-4-Turbo într-o versiune „mult îmbunătățită”. Când va ajunge pe ChatGPT
RECOMANDĂRI USEIT.RO
1
Imagine digitală cu un virus care pare înghețat, pe fundal de roz și portocaliu, pentru a ilustra virusuri antice descoperite în permafrost
Virusurile care ucid 3.500 de oameni pe zi. Sute de milioane de persoane sunt infectate
OMS trage un semnal de alarmă despre virusurile care ucid 3.500 de oameni pe zi, într-o tendință globală alarmantă. Peste 3.500 de oameni mor zilnic din cauza virusurilor hepatice. OMS a avertizat că acest...
Virusurile care ucid 3.500 de oameni pe zi. Sute de milioane de persoane sunt infectate
2
Ploaie de meteoriți, similară cu Lyride, din 2023, pe cer albastru și mov
Cea mai veche ploaie de meteoriți descoperită vreodată va lumina cerul în aprilie. Când poți admira fenomenul spectaculos
Liridele, considerată cea mai veche ploaie de meteoriți consemnată vreodată, va lumina cerul în luna aprilie.  La scurt timp după eclipsa totală de Soare care a fost vizibilă în America de Nord e 8...
Cea mai veche ploaie de meteoriți descoperită vreodată va lumina cerul în aprilie. Când poți admira fenomenul spectaculos
3
Truong My Lan e miliardara condamnată la moarte îm Vietnam, aprilie 2024, îmbrăcată într-o bluză albă și înconjurată de soldați
Fun
Miliardara condamnată la moarte pentru fraudă. Ce sumă fantastică ar fi furat Truong My Lan
Truong My Lan e miliardara condamnată la moarte pentru fraudă în Vietnam, după ce ar fi furat o sumă imensă.  Într-unul din cele mai mediatizate procese din Vietnam, Truong My Lan, în vârstă de...
Miliardara condamnată la moarte pentru fraudă. Ce sumă fantastică ar fi furat Truong My Lan
4
Un om care arată diferența dintre un bec incendescent și unul cu LED
Invenții care au schimbat lumea. Ce inovații au îmbunătățit viața la nivel mondial
Unele invenții care au schimbat lumea continuă să fie folosite și să îmbunătățească industrii întregi, deși puțini își dau seama ce impact au avut asupra istoriei. Unele dintre trăsăturile principale ale oamenilor sunt curiozitatea...
Invenții care au schimbat lumea. Ce inovații au îmbunătățit viața la nivel mondial
5
Telefon iPhone alb, ținut în mână de o utilizatoare, pe fundal bej, cu probleme cu bateria pe ecran. Experții recomandă să ștergi această aplicație dacă vrei să prelungești durata bateriei telefonului
Greșeala care îți „omoară” bateria telefonului. La ce obicei trebuie să renunți de urgență
Experții au dezvăluit care e greșeala care îți „omoară” bateria telefonului, pe care o fac milioane de utilizatori în fiecare zi.  Recent, pe un forum Reddit, utilizatorul @AsketRS22 a oferit „sfaturi pentru durata bateriei...
Greșeala care îți „omoară” bateria telefonului. La ce obicei trebuie să renunți de urgență
PARTENERI
×