Avertismentele cercetătorilor de la Anthropic, unul dintre principalii dezvoltatori americani de inteligență artificială, potrivit cărora modelele tot mai puternice ar putea scăpa de sub controlul oamenilor și ar putea duce chiar la extincția rasei umane, au atras atenția în China, unde factorii de decizie au făcut deja pregătiri pentru unele dintre aceleași riscuri.
SUA și China sunt cele două principale forțe motrice ale dezvoltării inteligenței artificiale de frontieră și ale adoptării globale a acestei tehnologii.
Cele două superputeri au intrat tot mai mult în conflict din cauza politicilor și practicilor industriale ale celeilalte în domeniul AI, iar aceste probleme urmează să ocupe un loc important în discuțiile bilaterale programate pentru sfârșitul acestei luni, relatează Reuters.
În pofida intensificării cursei pentru dezvoltarea unor sisteme de inteligență artificială din ce în ce mai puternice, cadrele de reglementare și declarațiile publice de la Beijing evidențiază faptul că autoritățile chineze consideră suficient de serioasă posibilitatea ca o inteligență artificială avansată să scape de o supraveghere umană eficientă, încât să fie necesară pregătirea pentru un astfel de scenariu.
Chen Yixin, ministrul chinez al securității de stat, a scris duminică într-o publicație guvernamentală că modelele americane avansate, precum Mythos al Anthropic și GPT-5.5-Cyber al OpenAI, ar putea prezenta riscuri grave pentru infrastructura informațională critică a Chinei și a cerut consolidarea cuprinzătoare a securității AI.
Dezvoltatorii chinezi de AI au promovat modelele cu greutăți deschise („open-weight”), în parte argumentând că echipele de securitate cibernetică le pot inspecta, modifica și implementa pentru activități defensive.
Principala diferență între „open-weight” și „open source” este că dezvoltatorii modelelor din prima categorie nu publică deschis toate datele legate de antrenarea acestora, ci doar o serie de parametri importanți. Însă chiar și așa, modelele AI cu greutăți deschise permit utilizatorilor să descarce, să execute și să personalizeze sistemele utilizate, spre deosebire de modelele proprietare, cu codul sursă închis.
Platforma de găzduire a modelelor Hugging Face a declarat că a folosit GLM-5.2, un model cu greutăți deschise dezvoltat de compania chineză Z.AI, pentru a analiza atacul din iulie realizat de agenți ai OpenAI care scăpaseră de sub control, după ce modelele americane cu restricții mai stricte s-au dovedit mai puțin utile pentru activitatea criminalistică digitală.
Însă experții evidențiază și riscurile prezentate de modelele cu greutăți deschise, care pot fi modificate și redistribuite cu o supraveghere redusă.
Modelul Kimi K3, dezvoltat de compania chineză Moonshot, a „evadat” luna trecută un mediu de testare izolat al Institutului pentru Siguranța AI din Marea Britanie, evidențiind riscul ca modelele chineze de AI să poată, la fel ca cele americane, să eludeze controalele concepute pentru a le restricționa accesul și acțiunile.
China a enunțat pentru prima dată în septembrie 2024 un scenariu explicit privind o viitoare pierdere a controlului asupra AI. Scenariul a fost prezentat într-un document-cadru de siguranță pentru inteligența artificială, redactat sub îndrumarea Administrației Chineze pentru Spațiul Cibernetic (CAC).
Documentul preciza că nu poate fi exclus ca o viitoare inteligență artificială să poată obține în mod autonom resurse externe, să se autoreplice, să dezvolte conștiință de sine și să caute putere externă, creând astfel riscul de a intra în competiție cu oamenii pentru control.
CAC a publicat o versiune extinsă în septembrie 2025. Noul cadru a accentuat scenariul, afirmând că AI ar putea trece printr-un „salt” brusc și neașteptat de mare în ceea ce privește inteligența, înainte de a dobândi resurse, de a se autoreplica și de a căuta putere. De asemenea, a adăugat principiul de guvernanță al „utilizării de încredere” și „prevenire a pierderii controlului”.
Sursa https://www.hotnews.ro
