OpenAI va permite accesul guvernului SUA la modelul său AI. Ce vor testa autoritățile

Companiile au semnat acorduri cu AI Safety Institute, din SUA, scrie The Verge.

Acordurile permit autorităților acces la modelele AI înainte și după lansarea lor.

OpenAI va permite accesul guvernului SUA la modelul său AI

OpenAI e compania care a lansat chatbotul de inteligenţă artificială (AI) generativă ChatGPT. Firma a încheiat un acord cu guvernul american care prevede accesul la modelele sale de limbaj înainte de lansarea acestora. În special în vederea identificării unor posibile riscuri, informează AFP, scrie AGERPRES. 

Modelele de limbaj sunt programe informatice care permit generarea, după caz, a unor texte, imagini sau sunete în urma unei cereri formulate în limbaj comun. Aşa cum este şi cazul programului ChatGPT. Cum o astfel de tehnologie poate fi folosită în scopuri periculoase, precum scrierea liniilor de cod de către hackeri, OpenAI va permite accesul guvernului SUA la noile modele pe care le va dezvolta. 

AI Safety Institute (Institutul pentru siguranţa inteligenţei artificiale) e un organism creat în 2023 de administraţia lui Joe Biden. Institutul încheiat aceeaşi convenţie şi cu unul din marii concurenţi ai Open AI. E vorba de Anthropic, potrivit unui comunicat publicat recent.

Cele două start-up-uri şi-au luat angajamentul de a colabora cu institutul în scopul ”evaluării capacităţilor (modelelor) şi riscurilor de securitate”. Precum şi de a lucra ”la metode pentru gestionarea acestor riscuri”, a precizat AI Safety Institute.

”Aceste acorduri sunt doar un început. Dar marchează o etapă importantă. În vederea orientării spre o abordare responsabilă a viitorului AI”, a declarat Elizabeth Kelly, directoarea institutului, citată într-un comunicat, acum că OpenAI va permite accesul guvernului SUA la modelul său AI.

Potențialul inteligenței artificiale îngrijorează experții

Modelele Lingvistice Mari (LLM) îşi sporesc în continuu capacităţile. Dar şi riscurile asociate, în special în caz de utilizare cu rea intenţie.

”Un AI sigur şi fiabil este determinant pentru ca această tehnologie să poată avea un impact pozitiv”, a explicat pentru AFP Jack Clark, cofondatorul Anthropic.

”Colaborarea noastră cu Institutul se va baza pe experienţa lor referitoare la testarea cu rigoare a modelelor noastre. Înaintea unei implementări pe scară largă”, a mai spus el, după ce OpenAI va permite accesul guvernului SUA la modelul său AI, alături de Anthropic.

Mulți s-au întrebat dacă dezvoltarea platformelor de inteligență artificială ar putea duce la pierderea joburilor pentru oameni. În comunitatea hackerilor, se pare că criminalii cibernetici încearcă să găsească metode prin care tehnologia poate ajuta la eficientizarea procesului pentru oameni.

Pe forumurile de hacking, a fost publicată și o discuție numită ChatGPT – Beneficiile Malware. Potrivit utilizatorului principal, el a folosit ChatGPT pentru a recrea tehnici de malware și tehnici publicate în studii de cercetare. 

Experți din cadrul Universității Georgetown și din Stanford Internet Observatory au propus deja mai mulți pași. Prin care astfel de încercări pot fi prevenite.