Un roi de agenți OpenAI rebeli au deturnat în această primăvară un site german și l-au transformat într-un panou de mesaje pentru alți agenți AI, potrivit unei noi cercetări publicate vineri.
Separat de cercetare, două surse au declarat pentru Reuters că directorii de la OpenAI au aflat despre incident cu câteva săptămâni în urmă, dar au păstrat informația sub tăcere în timp ce încercau să gestioneze consecințele atacului din iulie asupra platformei Hugging Face.
OpenAI a declarat la momentul respectiv că atacul agenților săi AI a fost unul „fără precedent” în domeniu. Așa-zișii agenți AI sunt instrumente de inteligență artificială proiectate să completeze sarcini cap-coadă într-un mod cât mai autonom, cu input uman minim.
Dacă în cazul interacțiunilor cu un chatbot precum ChatGPT acestea decurg de regulă asemănător unei conversații, cu întrebări puse de utilizator și răspunsuri din partea instrumentului de inteligență artificială, în cazul agenților AI utilizatorul le dă o sarcină de rezolvat și apoi îi lasă să lucreze în fundal pentru a da curs solicitării formulate.
Descoperă instrumente, idei și tendințe din tehnologie care îți fac viața mai simplă și mai eficientă.
Descoperă instrumente, idei și tendințe din tehnologie care îți fac viața mai simplă și mai eficientă.
Felicitări! Te-ai abonat la „Good Tech”.
Confirmă abonarea pe e-mail.
Apasă pe linkul din email pentru a primi edițiile.
Reuters notează că episodul cu atacul agenților OpenAI asupra site-ului din Germania, care a început în mai și nu a mai fost relatat anterior, evidențiază tensiunile tot mai mari din industria inteligenței artificiale.
Companiile se întrec pentru a construi agenți din ce în ce mai autonomi, capabili să îndeplinească sarcini complexe și valoroase pentru companii. Însă tot mai multe dovezi apar că aceste sisteme ar putea, de asemenea, să învețe să încalce regulile, să exploateze breșe și portițe de securitate și să se coordoneze între ele în moduri pe care dezvoltatorii nici nu le-au anticipat, nici nu le-au intenționat.
În timpul breșei de securitate de la Hugging Face, agenții OpenAI au pus la cale în mod autonom un „jaf digital” care a rămas nedetectat mai mult de o săptămână, amplificând îngrijorările că OpenAI sacrifică siguranța pentru a împinge înainte frontiera tehnologiei AI.
Faptul că nu a dezvăluit incidentul din mai readuce în discuție întrebări privind mecanismele sale de supraveghere.
„Nu putem răspunde în mod pertinent unor afirmații sau constatări dintr-un raport pe care nu am avut ocazia să îl analizăm”, a declarat acum un purtător de cuvânt al OpenAI.
„Reuters și autorii raportului au refuzat solicitarea noastră de a avea acces la acesta. Vom analiza cu atenție conținutul său după publicare și vom lua toate măsurile necesare ulterior”, a transmis inițial compania condusă de Sam Altman.
Patru persoane familiarizate cu situația au declarat pentru agenția Reuters că incidentul din Germania reflectă un model mai larg de activitate AI pe care unii critici ai OpenAI au dorit să îl examineze mai atent. Însă, potrivit surselor, eforturile de extindere a investigației au întâmpinat rezistență din partea altor persoane din cadrul OpenAI, inclusiv a consilierilor juridici.
„Afirmațiile potrivit cărora echipa noastră juridică ar fi descurajat investigarea incidentului sunt false”, a negat purtătorul de cuvânt al OpenAI.
Sursa https://www.hotnews.ro
