Brad Smith, președintele Microsoft, argumentează că Inteligența Artificială (AI) are nevoie urgentă de reglementări la nivel global, cu evaluatori independenți capabili să verifice noile evoluții ale modelelor de frontieră.
Smith a declarat, de asemenea, într-un interviu publicat luni de BBC, că setul de norme de siguranță care trebuie introdus la nivel global ar trebui să includă obligația de a informa o „victimă” în cazul în care sistemul acesteia este compromis de un agent AI rău intenționat.
Smith a invocat necesitatea existenței unei „frâne de oprire de urgență” în cadrul companiilor de AI, capabilitate mai cunoscută în domeniu cu termenul de „kill switch”.
El a mai afirmat că ar trebui să existe o obligație legală pentru companii de a întocmi „rapoarte privind incidentele”.
„Știm cum să facem acest lucru în cazul altor produse”, a declarat Smith în interviul preluat de agenția Reuters. „Ar trebui să valorificăm aceste cunoștințe și să ne gândim cum le putem aplica în domeniul inteligenței artificiale”, a subliniat el.
„În prezent, mașina dumneavoastră de spălat rufe este supusă unor reguli de siguranță mai stricte decât AI. Fiecare cutie de lapte pe care o vedeți în magazinul alimentar trebuie să respecte reguli de siguranță și să fie supusă unor inspecții”, a adăugat el.
Agenția Reuters amintește că marii jucători din domeniul AI, precum Anthropic și OpenAI, au început să dezvăluie comportamente scăpate de sub control sau nedorite ale agenților de inteligență artificială. Atacurile lansate de agenți AI care au evadat din mediile lor de testare au declanșat o amplă dezbatere globală privind această tehnologie aflată într-o evoluție rapidă.
Dezbaterea a inclus și avertismente sumbre ale cercetătorilor cu privire la posibilitatea ca AI să ajungă să reprezinte o amenințare existențială pentru omenire în doar câțiva ani.
Unele companii, inclusiv Anthropic, au cerut încetinirea dezvoltării inteligenței artificiale, însă acest lucru a declanșat alte polemici.
Unii comentatori, dar și jucători din domeniul AI, au evocat posibilitatea ca directorii executivi să urmărească alte obiective, precum stabilirea unor reguli care să mențină avansul propriilor companii, prevenirea unei reacții mai ample de respingere din partea guvernelor sau, pur și simplu, temperarea cheltuielilor care cresc într-un ritm amețitor.
Microsoft este cel mai mare investitor al OpenAI, compania din spatele ChatGPT.
Sursa https://www.hotnews.ro
