Secretul din spatele inteligenței artificiale. Ce ascund modelele AI

Lipsa de transparență din industrie a fost îndelung criticată, potrivit The New York Times. 

Nu se știe exact ce date folosesc companiile pentru a antrena modelele sau ce fel de hardware e potrivit pentru un astfel de proces. 

Secretul din spatele inteligenței artificială 

Modelele de inteligenţă artificială (AI) s-au înmulţit după lansarea ChatGPT. Acestea nu sunt încă transparente în ceea ce priveşte modul în care au fost concepute. Reprezintă un risc pentru aplicaţiile care le utilizează ca bază tehnică, potrivit unui studiu realizat de Universitatea Stanford, informează AFP, scrie AGERPRES.

Experții vor să afle mai multe despre secretul din spatele inteligenței artificiale oferite de undele dintre cele mai mari companii. Dar giganții tech preferă să păstreze aceste date ascunse. 

Conform unui nou indice imaginat şi calculat de cercetători ai acestei universităţi californiene, modelul cel mai transparent, dintre zeci de modele evaluate, este Llama 2. Acesta e un sistem de inteligenţă artificială lansat de Meta în iulie şi care poate fi reutilizat la liber.

Sistemul a obţinut un scor de doar 54%, în mare parte insuficient, potrivit autorilor studiului.

GPT-4 e produsul de referinţă al Open AI, compania finanţată de Microsoft. Aceasta se află în spatele celebrului robot ChatGPT. GPT-4 a obţinut la rândul său un scor de transparenţă de doar 48%.

Iar celelalte modele la modă, cum ar fi Palm-2 de la Google sau Claude 2, al societăţii Anthropic (finanţată de Amazon), apar pe poziţii mai joase ale clasamentului.

Toate modelele ar trebui să încerce să atingă o transparenţă cuprinsă între 80% şi 100%, estimează într-un comunicat Rishi Bommasani, director de cercetare la Stanford. Bommasani a vorbit despre modelele care servesc drept „fundaţie”.

În lipsa transparenţei, este dificil pentru companii „să ştie dacă pot crea în deplină siguranţă aplicaţii care să se bazeze” pe aceste modele comerciale. Și pentru ca „universităţile să se bazeze pe aceste modele în cercetările lor”, au explicat autorii studiului. Secretul din spatele inteligenței artificiale impune mai multe obstacole atunci când vine vorba de studierea acestei tehnologii. 

Giganții tech nu au dezvăluit cum și-au antrenat modelele AI 

Acest lucru complică de asemenea misiunea consumatorilor. Unii dintre ei ar dori „să înţeleagă limitele modelelor sau să ceară daune pentru prejudiciile suferite”.

În mod concret, „cea mai mare parte a companiilor nu comunică gama de conţinuturi protejate de drepturi de autor utilizate pentru antrenarea modelului. Companiile nu divulgă nici utilizarea muncii umane pentru a corija datele de antrenare. Ceea ce se poate dovedi foarte problematic”, se mai spune în studiu.

„Nicio companie nu furnizează informaţii asupra numărului de utilizatori care depind de modele lor. Nici de statisticile despre ţările sau pieţele care le utilizează,” a mai spus Rishi Bommasani.

Potrivit autorilor, acest indice de transparenţă ar putea în viitor să fie utilizat de decidenţii politici şi de organismele de reglementare. Uniunea Europeană, Statele Unite, China, Regatul Unit sau Canada au anunţat că doresc crearea unor modele AI mai transparente. Ca urmare, secretul din spatele inteligenței artificiale ar putea fi făcut public pe viitor. 

Află și care e pericolul inteligenței artificiale ar putea afecta întreaga lume.

„Inteligenţa artificială constituie promisiunea enormă a unor oportunităţi incredibile. Dar prezintă totodată şi riscuri. Pentru societate, economie, sectorul securităţii naţionale,” a declarat preşedintele american Joe Biden în iulie în faţa responsabililor unor companii din acest sector.

Subiectul a fost în prim-planul agendei summitului G7 din Japonia, care a avut loc în mai. Și Marea Britanie se pregăteşte să organizeze în noiembrie un summit internaţional dedicat AI.