Recentele atacuri cibernetice comise de agenți AI reprezintă „primele focuri de avertisment”, iar lumea s-ar putea confrunta în curând cu incidente majore, a declarat miercuri laureatul Nobel Demis Hassabis, cofondator și președinte al laboratorului DeepMind deținut de Google.
Comportamentul necontrolat al agenților AI, care a inclus în ultimele luni atacuri informatice asupra unor companii sau sisteme guvernamentale și, cel mai recent, dezvăluirea făcută de Anthropic potrivit căreia un model de inteligență artificială a transmis poliției o sesizare falsă privind un omor, a determinat cercetătorii să emită avertismente și a alimentat îngrijorările cu privire la această tehnologie care progresează rapid.
Agenții AI sunt instrumente de inteligență artificială proiectate să completeze cap-coadă sarcini într-un mod cât mai autonom, cu input uman minim. Aceștia au fost în centrul valului de atacuri care au urmat după ce compania OpenAI a dezvăluit primul incident de acest fel pe 27 iulie.
Hassabis a declarat miercuri că „mai sunt multe de făcut” pentru a adopta tipul de bune practici utilizate în alte domenii precum biologia sau sectorul nuclear în vederea securizării sistemelor critice, și că, în cele din urmă, va fi nevoie de un organism internațional de standardizare.
„Cred că aceste incidente (n.r. de atacuri cibernetice) sunt primele semnale de avertizare pentru noi, deoarece sistemele nu sunt încă atât de puternice, astfel încât incidentele nu sunt atât de grave”, a declarat Hassabis, citat de Reuters. Acesta, care este și directorul științific al Alphabet (compania-mamă a Google), a făcut comentariile în cadrul unui summit dedicat inteligenței artificiale, organizat la Dublin.
Sursa https://www.hotnews.ro
