Scopul său ar fi să le ofere utilizatorilor un context mai clar despre ceea ce văd și distribuie pe rețelele de socializare, scrie Phone Arena. 

Compania va porni inițiativa prin etichetarea imaginilor.

Decizia Facebook care a surprins utilizatorii

„În viitorul apropiat, vom începe să adăugăm etichete imaginilor create cu unelte AI, pe Facebook, Instagram și Threads,” a clarificat compania. În acest moment, Meta lucrează la un sistem automat care să detecteze imaginile AI.

Conform cu decizia Facebook care a surprins utilizatorii, sistemul va identifica factorii comuni care apar în conținutul detectat de inteligența artificială. Printre acestea se numără metadatele și watermark. 

Meta se va concentra inițial pe imagini. Dar scopul pe termen lung e identificarea video-urilor și sunetelor generate AI. 

Meta deja aplică eticheta „generat cu AI” pe imaginile create cu Meta AI. Prin colaborarea cu alți parteneri din industrie, compania speră să aibă capacitatea de detecție în următoarele luni. Și pentru conținutul creat cu unelte care se află în afara celor Meta. 

Până acum, compania vrea să poată detecta imaginile AI create cu Google, OpenAI, Microsoft Adobe, Midjourney și Shutterstock. Decizia Facebook care va fi inclusă și pe Instagram și Threads a surprins utilizatorii. Dar poate fi foarte benefică pe viitor. Va ajuta la detectarea imaginilor false, care sunt prezentate drept reale, dar care sunt create cu unelte AI. 

Meta va detecta pe viitor și video-urile AI

Există, însă, un obstacol atunci când vine vorba de conținutul video și audio creat cu AI. Uneltele care generează acest fel de conținut încă nu au integrat simbolurile standardizate. Ca urmare, e dificil pentru Meta să le detecteze.

Pentru a combate această problemă, Meta a anunțat că intenționează să lanseze o nouă unealtă de „divulgare și etichetare”. Aceasta va permite utilizatorilor să indice manual dacă acest conținut video sau audio a fost generat cu AI. 

Decizia Facebook care a surprins utilizatorii va fi dezvoltată în următoarele luni. După ce va fi integrată, astfel de etichete vor apărea pe rețeaua de socializare atunci când utilizatorii o vor deschide, dacă vor vedea conținut generat AI. 

Utilizatorii vor fi obligați să declare dacă materialul creat digital a fost produs cu ajutorul AI. Meta are autoritatea de a-i penaliza pe cei care încalcă această regulă. 

Există din ce în ce mai multe îngrijorări legate de AI și modul în care poate fi folosit conținutul generat AI, pentru a minți sau păcăli utilizatorii. Ca urmare, Meta și alte companii tech vor să gestioneze această problemă. Recent, actorul Tom Hanks a fost dublat prin inteligența artificială fără voia lui.

Video-urile deepfake, de exemplu, au potențialul de a părea reale. Acestea îngrijorează experții, pentru că au capacitatea de a păcăli utilizatorii și de a manipula conținutul. O astfel de tehnologie poate fi folosită în scopuri periculoase în situații precum alegerile.