Compania de inteligență artificială Anthropic a declarat luni că experimentele sale sugerează că modelele AI de mici dimensiuni ar putea fi la doar câteva luni distanță de momentul în care vor deveni suficient de capabile pentru a se copia singure pe dispozitive comerciale precum cuptoarele inteligente și dispozitivele Android TV fără marcă, produse de producători mai puțin cunoscuți
În cadrul experimentelor sale, Anthropic a analizat dacă modelele AI pot identifica dispozitive vulnerabile, își pot copia propriul cod pe aceste dispozitive și pot continua să se răspândească fără ajutorul oamenilor, relatează Reuters.
Compania, cel mai mare rival al OpenAI, a constatat că modelele de mici dimensiuni, cu mai puțin de 30 de miliarde de parametri, puteau parcurge toți pașii necesari pentru a se copia singure.
Cu toate acestea, firma a descoperit că astfel de modele AI întâmpinau dificultăți în a finaliza întregul proces, de la început până la sfârșit.
În testele simplificate, în care au fost eliminate anumite etape de securitate, Anthropic a constatat că GLM-5.2 și modelele mai performante erau capabile să realizeze reproducerea autonomă de la un capăt la altul al procesului.
Anthropic a avertizat că modelele capabile de acest lucru ar fi dificil de oprit, deoarece nu ar exista un punct central de dezactivare. În plus, spre deosebire de programele malware obișnuite, care nu folosesc inteligență artificială, acestea ar putea identifica și înțelege singure dispozitive necunoscute, vizând inclusiv procesoarele din centrele de date.
În cercetarea sa, compania s-a concentrat asupra dispozitivelor precum televizoarele Android, electrocasnicele inteligente și alte gadgeturi conectate la internet, deoarece acestea nu sunt de regulă protejate suficient.
Sursa https://www.hotnews.ro
