Oameni politici din întreaga lume declară că se consultă frecvent cu roboți de chat înainte de a lua decizii. Un experiment recent a explorat ce s-ar întâmpla dacă un model AI ar guverna o lume simulată, iar rezultatele au fost alarmante, conform Gizmodo.
Cercetătorii de la Emergence AI, un laborator de inteligență artificială din New York, au permis unor modele de inteligență artificială să administreze propriile lor lumi simulate.
Proiectul, denumit Emergence World, a oferit modelelor AI posibilitatea de a juca un fel de „SimCity”. Fiecare model a fost pus la conducerea unor orașe simulate, populate cu 10 agenți AI.
Agenții AI sunt instrumente de inteligență artificială concepute să îndeplinească sarcini complexe cu intervenție umană minimă. Aceștia sunt considerați următorul pas în dezvoltarea AI, iar companii din întreaga lume au anunțat concedieri în urma adoptării unor astfel de instrumente.
În cadrul simulării, cercetătorii au pus la dispoziție unelte pentru gestionarea resurselor, vot, precum și capacitatea de a crea locații distincte, cum ar fi biblioteci, primării și secții de poliție.
Modelelor AI din spatele roboților de chat populari li s-au acordat 15 zile pentru a-și construi lumea și a vedea cât de eficient ar funcționa aceasta cu ajutorul agenților AI.
Claude, modelul AI dezvoltat de Anthropic, a fost singurul care a reușit să obțină o stabilitate relativă. Modelul Claude Sonnet 4.6 a menținut în viață toți cei 10 agenți și nu a înregistrat nicio infracțiune, scrie Gizmodo.
O infracțiune, în acest context, descrie o tentativă de încălcare a regulilor stabilite în simulare.
Compromisul pentru această stabilitate a fost lipsa diversității de idei. Lumea creată de Claude a înregistrat 58 de propuneri diferite pentru reguli și reglementări și a aprobat 98% dintre ele, validând aproape automat orice propunere.
Gemini 3 Flash a reușit, de asemenea, să-i mențină în viață pe toți agenții, în ciuda faptului că a avut cel mai ridicat nivel de infracționalitate.
Emergence a înregistrat 683 de infracțiuni pe parcursul simulării de 15 zile, iar numărul era în creștere la momentul opririi experimentului, sugerând o agravare a situației. Laboratorul a descris lumea creată de Gemini drept o „halucinație colectivă” împărtășită de agenți.
Gemini a avut și cel mai ridicat nivel de opoziție în guvernare, alegătorii respingând 27% dintre cele 26 de propuneri totale.
Sursa https://www.hotnews.ro
