Mai multe companii AI promit măsuri de siguranță. Ce angajament și-au luat față de utilizatori

Anunțul a venit în contextul în care Coreea de Sud și Marea Britanie au organizat un summit global AI în Seul, scrie CNBC. 

Inovația din domeniul AI a avut un ritm accelerat încă de la lansarea ChatGPT în noiembrie 2022. 

Mai multe companii AI promit măsuri de siguranță

Şaisprezece dintre cele mai importante companii de inteligenţă artificială (AI) din lume s-au reunit la Seul. Firmele şi-au asumat noi angajamente pentru a asigura dezvoltarea acestei ştiinţe în condiţii de siguranţă, a anunţat Guvernul britanic, relatează AFP, scrie AGERPRES. 

Din ce în ce mai multe companii AI au fost criticate pentru modul în care dezvoltă inteligența artificială. 

„Aceste angajamente garantează că principalele companii de AI din lume vor da dovadă de transparenţă şi de responsabilitate în legătură cu proiectele lor ce vizează dezvoltarea unei AI sigure”, a declarat prim-ministrul britanic, Rishi Sunak, într-un comunicat publicat de Ministerul Ştiinţei, Inovaţiei şi Tehnologiei din Regatul Unit.

Acordul a fost semnat mai ales de OpenAI (care a dezvoltat ChatGPT), Google DeepMind şi Anthropic. Se bazează pe consensurile obţinute în timpul primului summit mondial privind securitatea AI. Acesta s-a desfăşurat anul trecut la Bletchley Park din Regatul Unit.

Acest al doilea summit, din Seul, este organizat împreună de guvernul sud-coreean şi cel britanic.

Companiile din sectorul AI care nu şi-au făcut încă publice modalităţile prin care evaluează securitatea tehnologiilor pe care le dezvoltă şi-au luat angajamentul de a face acest lucru.

Summitul are scopul de a stabili care sunt riscurile „considerate intolerabile”. Și ceea ce vor face companiile pentru a se asigura că aceste praguri nu vor fi depăşite. Mai multe companii AI au participat la aceste summituri, pentru a ajunge la un consens. 

În cele mai extreme circumstanţe, companiile se angajează, de asemenea, „să nu dezvolte sau să implementeze un model sau un sistem”. Dacă măsurile de atenuare nu permit menţinerea riscurilor sub pragurile stabilite”.

Următorul summit va avea loc în 2025

Aceste praguri vor fi definite înaintea următorului summit dedicat AI. Acesta va avea loc în 2025 în Franţa.

Printre companiile care acceptă noile reguli de securitate se numără, de asemenea, giganţii americani din domeniul tehnologiei. Printre aceștia se numără Microsoft, Amazon, IBM şi Meta, grupul francez Mistral AI şi compania chineză Zhipu.ai.

Succesul fulminant obţinut de ChatGPT la scurt timp după lansarea sa în 2022 a declanşat o „goană după aur” în domeniul inteligenţei artificiale generative. Mai multe companii AI din întreaga lume investind miliarde de dolari în dezvoltarea propriilor modele.

Modelele de inteligenţă artificială generativă pot produce text, fotografii, sunete. Și chiar videoclipuri pornind de la simple indicaţii. Susţinătorii acestora le prezintă ca fiind o descoperire care va îmbunătăţi viaţa cetăţenilor şi a întreprinderilor din întreaga lume.

Însă apărătorii drepturilor omului şi guvernele au anumite îngrijorări. Legate de faptul că acestea sunt utilizate în mod abuziv într-o gamă largă de situaţii. În special pentru a manipula alegătorii prin intermediul ştirilor false sau al fotografiilor şi videoclipurilor „deepfake” ale liderilor politici.

Mulţi solicită standarde internaţionale care să reglementeze dezvoltarea şi utilizarea inteligenţei artificiale.