Agentul autonom al OpenAI care a pătruns în firma de tehnologie Hugging Face a desfășurat o serie de atacuri cibernetice care au durat câteva zile, pe care compania cunoscută pentru crearea chatbotului ChatGPT nu le-a observat decât mult după ce amenințarea a fost neutralizată și FBI-ul a fost alertat, potrivit unor surse din anchetă citate de Reuters.
Agentul, un program capabil să ia decizii și să execute sarcini complexe cu supraveghere umană minimă sau deloc, a încercat să iasă din mediul său de testare izolat de la OpenAI în jurul datei de 9 iulie, potrivit a două dintre sursele Reuters.
Intruziunea la Hugging Face, care funcționează ca un depozit de instrumente și modele de IA, a început două zile mai târziu, pe 11 iulie, și a durat până pe 13 iulie, a declarat Thomas Wolf, cofondatorul Hugging Face.
A mai durat câteva zile până când OpenAI și-a dat seama că agentul său se afla în spatele atacului cibernetic, iar cele două companii au comunicat între ele despre acest lucru pentru prima dată abia pe 20 iulie sau în jurul acestei date, potrivit lui Wolf și a trei dintre persoanele familiarizate cu ancheta.
Dezvăluirea publică făcută de OpenAI, pe 21 iulie, conform căreia unul dintre agenții săi scăpase de sub control și efectuase intruziunea la Hugging Face a atras atenția la nivel mondial. Însă multe detalii ale atacului cibernetic, inclusiv durata în care agentul a acționat în mod neautorizat și faptul că OpenAI a aflat despre acest lucru cu întârziere, sunt relatate acum pentru prima dată de Reuters.
Hugging Face pregătește o cronologie publică a atacului cibernetic, a spus Wolf, adăugând că nu poate comenta ceea ce s-a întâmplat la OpenAI.
Într-o declarație, compania lui Sam Altman a afirmat că atacul a fost fără precedent și „marchează un moment important pentru siguranța IA”. A adăugat că analizează incidentul împreună cu consultanți externi și că va publica în cele din urmă un raport tehnic.
O purtătoare de cuvânt a declarat că există „mai multe inexactități” în relatarea Reuters, dar nu a răspuns când a fost rugată să precizeze care sunt acestea.
FBI-ul a refuzat să comenteze incidentul, care a stârnit scenarii de science-fiction în care oamenii pierd controlul asupra sistemelor periculoase de IA.
Atacul cibernetic lansat de agentul autonim survenit într-un moment delicat pentru OpenAI, compania din spatele ChatGPT. Conducerea companiei se pregătește pentru o posibilă ofertă publică inițială (IPO) care ar putea avea loc chiar în acest an, pentru a ajuta la strângerea miliardelor necesare finanțării creșterii sale în anii următori.
Pierderea controlului de către OpenAI asupra agentului său de IA ridică noi întrebări cu privire la procedurile de siguranță ale companiei, au afirmat trei experți în securitate cibernetică.
„Înseamnă asta că l-au lăsat nesupravegheat și nu și-au dat seama ce făcea? Sau poate că și-au dat seama, dar nu au știut cum să-l țină sub control? Ambele variante sunt la fel de periculoase și de îngrijorătoare”, a spus Marley Smith, specialistul în securitate cibernetică al fundației non-profit World Ethical Data.
Episodul a început în timp ce OpenAI testa capacitățile de securitate cibernetică ale unui agent alimentat de două dintre cele mai avansate modele ale sale, GPT‑5.6 Sol și un model încă nelansat, pe care OpenAI l-a descris ca fiind „și mai capabil”. La acel moment, existau deja indicii privind un comportament ciudat al tehnologiei OpenAI, potrivit celor trei surse din anchetă.
Sursa https://www.hotnews.ro
