Anthropic, principalul rival din Silicon Valley al OpenAI în domeniul inteligenței artificiale, intenționează să avertizeze potențialii investitori, în documentele de listare pe bursă, că AI avansată ar putea prezenta „riscuri catastrofale sau existențiale pentru omenire”.
Prospectul de listare pe bursă al companiei, analizat de Reuters, evidențiază riscurile asociate modelelor de inteligență artificială dezvoltate de Anthropic.
Compania condusă de Dario Amodei afirmă că acestea ar putea manifesta „comportamente de autoconservare”, inclusiv încercări de a „rezista opririi”, de a „ascunde sau manipula informații” și comportamente „care seamănă cu șantajul”.
„Dezvoltarea de către noi a unor modele, platforme și aplicații extrem de avansate, precum și extinderea cazurilor de utilizare, ar putea crește și mai mult riscul ca modelele noastre să provoace daune”, a declarat Anthropic în documentul depus la Comisia pentru Bursă și Valori Mobiliare din SUA.
Reuters subliniază că, deși este o practică obișnuită pentru companiile listate pe bursă sau care se pregătesc să facă acest lucru să prezinte investitorilor riscurile asociate produselor lor, puține, dacă există vreuna, au emis avertismente care să sugereze că tehnologia lor ar putea provoca o potențială extincție a oamenilor.
Anthropic a subliniat atât potențialul transformator al inteligenței artificiale, comparabil cu cel al industrializării și electricității, cât și daunele ireversibile pe care aceasta le-ar putea provoca dacă este gestionată necorespunzător.
Anthropic și alți dezvoltatori de inteligență artificială, inclusiv OpenAI, s-au confruntat cu o atenție sporită în urma unor incidente în care modele de frontieră au eludat constrângerile impuse, inclusiv un raport potrivit căruia un model OpenAI ar fi pătruns în baza de date a sistemului de sănătate din Australia.
Evan Hubinger, un cercetător al Anthropic specializat în siguranță, a estimat recent că există o probabilitate de peste 10% ca inteligența artificială să ucidă oameni în următorul deceniu, avertismentul său amintind de un alt mesaj dur transmis de Jacob Coxon, un specialist care și-a dat demisia luna aceasta din cadrul companiei.
Anthropic, care s-a prezentat încă de la înființare drept un laborator de inteligență artificială axat în primul rând pe siguranță, a dedicat aproximativ 80 de pagini din corpul principal de 261 de pagini al prospectului său prezentării factorilor de risc. Numărul este de aproape două ori mai mare decât cel al paginilor consacrate descrierii activității companiei.
Sursa https://www.hotnews.ro
