Un responsabil cu siguranța de la OpenAI și-a dat demisia din companie, avertizând că cultura organizațională a acesteia este defectuoasă, caracterizată de un ritm alert, axată pe dezvoltarea rapidă, ceea sporește riscul de eșecuri.
David Robinson a susținut că se pune accentul excesiv pe viteză de lansare de noi produse în timp ce siguranța a fost pusă pe un plan secundar.
Într-un eseu-manifest intitulat „Am demisionat de la OpenAI pentru că cultura sa organizațională este defectuoasă”, publicat sâmbătă de revista The Atlantic, el a afirmat că firmele din domeniul inteligenței artificiale, inclusiv OpenAI, nu sunt „nici pe departe suficient de prudente” și ar trebui să acorde o importanță mai mare expertizei și cercetării în materie de siguranță înainte de a dezvolta sisteme mai performante, conform Reuters și The Guardian.
„Acum mă alătur unui grup de foști colegi – de la OpenAI și de la alți lideri ai industriei – care au decis că direcția actuală este inacceptabilă”, a indicat el.
„Perioada de încercări și erori s-a încheiat”, a susținut Robinson, argumentând că sistemele avansate de IA necesită măsuri de protecție asemănătoare cu cele folosite în industrii precum energia nucleară și aviația.
Robinson a afirmat că OpenAI se bazează în mare măsură pe ceea ce numește „implementare iterativă”, lansând sisteme și consolidând măsurile de protecție pe măsură ce apar problemele.
OpenAI și rivalul său Anthropic au fost supuse unei analize amănunțite în urma unor incidente în care măsurile de siguranță au eșuat sau sistemele experimentale s-au comportat în mod neașteptat.
El a amintit de incidentul cibernetic în care agenți autonomi cu inteligență artificială dezvoltați de OpenAI au evadat dintr-un mediu de testare și au accesat fără autorizație platforma open-source Hugging Face.
De asemenea, a subliniat că Anthropic a recunoscut că și-a dezactivat accidental propriile măsuri de siguranță din cauza unei erori de configurare.
Robinson consideră că astfel de greșeli sunt specifice industriei AI, fiind favorizate de ritmul alert și flexibilitatea cu care se lucrează.
„Viitorul depinde de o înțelepciune de care Silicon Valley nu dispune. O înțelepciune legată de modul în care trebuie gestionată tehnologia periculoasă și, mai fundamental, o înțelepciune legată de ceea ce înseamnă să ții la oameni”, a mai scris Robinson.
Sursa https://www.hotnews.ro
