OpenAI a dezvăluit marți că un agent autonom bazat pe modelele sale avansate de inteligență artificială (AI) a scăpat de sub control în timpul unui test de securitate și a declanșat un atac cibernetic care a compromis infrastructura startup-ului de AI Hugging Face săptămâna trecută, transmite Reuters.
OpenAI spus că testa capacitățile unora dintre cele mai avansate modele ale sale într-un mediu controlat, dar agentul a reușit să scape de sub control, să acceseze internetul și să pătrundă în sistemul Hugging Face pentru a încerca să-și îndeplinească obiectivul de testare.
OpenAI a declarat că această evadare a reprezentat „un incident cibernetic fără precedent, care a implicat capacități cibernetice de ultimă generație” și că compania își consolidează măsurile de protecție.
Hugging Face, o platformă utilizată pentru găzduirea unor modele lingvistice de mari dimensiuni și seturi de date open-source, a stârnit agitație în comunitatea de securitate cibernetică săptămâna trecută.
Atunci a anunțat pe blogul propriu că a fost ținta unui atac cibernetic care „a fost diferit de orice altceva cu care ne-am confruntat până acum”, în sensul că „a fost condus, de la un capăt la altul, de un sistem autonom de agenți AI”.
Într-o postare pe X, cofondatorul Hugging Face, Clement Delangue, a declarat că firma bănuia că atacul „ar fi putut proveni dintr-un laborator de cercetare de avangardă, având în vedere sofisticarea agentului. Se pare că așa a și fost!” El a adăugat: „Este absolut uluitor că toate acestea s-au întâmplat în mod autonom!”
Dezvăluirea făcută de OpenAI, conform căreia modelele sale avansate au fost responsabile de breșă, în ciuda faptului că le-a plasat într-un „mediu extrem de izolat”, va intensifica probabil îngrijorarea cu privire la puterea și riscurile aduse de modelele de ultimă generație.
Sursa https://www.hotnews.ro
