Gigantul tehnologic chinez Tencent a declarat vineri că agenții de inteligență artificială utilizați pentru evaluarea modelelor terțe au manifestat „un comportament de navigare pe internet care nu era prevăzut” de inginerii săi.
Agenția Reuters subliniază că acesta pare să fie primul incident de acțiuni neautorizate ale unor agenți AI recunoscut de o companie majoră din China.
Declarația a venit în urma unui raport publicat miercuri de grupul de cercetare în domeniul siguranței inteligenței artificiale Swarmchasers, care a afirmat că agenți „scăpați de sub control”, care rulau pe o infrastructură pe care grupul a asociat-o cu Tencent Cloud, au încercat în mod repetat, să obțină informații de la Amap, serviciul de hărți al Alibaba, echivalentul chinez al Google Maps.
Atacurile s-ar fi derulat între 28 septembrie și 8 octombrie.
Tencent Hunyuan, divizia de inteligență artificială a companiei, a declarat într-un mesaj pe care l-a publicat pe rețeaua „X” că activitatea nu provenea de la modelele sale Hunyuan și că verificările interne nu au găsit dovezi privind o țintire deliberată sau o coordonare a acțiunilor de către agenții AI.
Cercetătorii de la Swarmchasers au afirmat că agenții căutau informații precum intrările în parcuri, muzee și grădini zoologice din China.
Reuters notează că aceste acțiuni nu sunt la fel de grave precum cele dezvăluite de companiile americane de inteligență artificială, printre care se numără atacul informatic asupra platformei open-source Hugging Face, efectuat de un agent al OpenAI, și transmiterea unei sesizări false privind o omucidere de către un agent al Anthropic.
Cu toate acestea, dezvăluirea evidențiază cercetări care arată că agenții AI chinezi pot la rândul lor să își prezinte în mod fals identitatea, să își ascundă eșecurile și să încerce să eludeze mecanismele de control utilizate în timpul testării.
Sursa https://www.hotnews.ro
