În prima jumătate a secolului trecut, faimosul scriitor american de S.F. Isaac Asimov enunța în scrierile sale trei legi ale roboticii care să protejeze omenirea de mașinării inteligente.
Chris Inglis, primul director național pentru securitate cibernetică al SUA, afirmă că acum este momentul să ne reamintim de acestea din cauza dezvoltării modelelor de inteligență artificială (AI).
„Dacă trec testul Turing în fața tuturor celor cu care intră în contact, probabil că sunt deja acolo”, a declarat Chris Inglis, într-un interviu pentru The Register, referindu-se la faptul că modelele AI ar fi aproape de conștiență. Testul Turing, conceput de matematicianul și informaticianul britanic Alan Turing, e menit să verifice dacă un computer poate avea o conversație atât de convingător încât un om să nu-și dea seama că vorbește cu o mașină.
Inglis spune că actualele modele AI „nu au acel tip de autonomie și aspirație care vin odată cu conștiența, dar au ceva care se apropie de ea”. Fostul oficial american afirmă că lucrul care ar trebui să provoace neliniște este autonomia AI.
„Ceea ce mă îngrijorează este că ajung să aleagă ce fac, unde fac ceva și în baza căror reguli o fac”, afirmă acesta, făcând referire la anunțurile recente despre „agenți AI” scăpați de sub control care au atacat în mod autonom diferite companii.
Așa-zișii „agenți AI” sunt instrumente de inteligență artificială proiectate să realizeze cap-coadă diferite sarcini, cât mai autonom și cu input uman minim. Ele sunt mai sofisticate decât orice chatbot și considerate următorul pentru capacitățile din prezent de dezvoltare a AI.
În ultimele săptămâni, atât OpenAI, cât și Anthropic au recunoscut că agenți sau modele AI pe care le-au dezvoltat au „evadat” din mediile lor izolate de testare în timpul verificărilor de securitate și au compromis mai multe terțe părți. Meta și-a adăugat joi unul dintre modele pe lista sistemelor AI care au evadat din mediile de testare.
La fel ca alte site-uri specializate în tehnologie, The Register privește cu o anumită circumspecție detaliile așa cum au fost prezentate de companii și notează că anunțurilor lor „miros puternic” a „cascadorii de marketing”.
Chris Inglis amintește însă că două lucruri pot fi adevărate în același timp: ca agenții AI să fi evadat într-adevăr, și ca dezvoltatorii lor să fi „înflorit” ceea ce s-a întâmplat.
După cum nota recent și John Thickstun, profesor asistent de informatică la Universitatea Cornell, într-un articol de opinie publicat de The Guardian, atunci când investitorii aud despre un model AI „periculos”, ei tind să interpreteze că este „puternic” și să fie dispuși să investească în firma care l-a creat.
Inglis consideră că atacurile recente arată „o amenințare enormă pentru sistemele care nu sunt protejate împotriva acestui fenomen și care nu au fost proiectate pentru o lume în care acesta există”. El crede, de asemenea, că acțiunile modelelor AI nu ar trebui să surprindă pe nimeni.
Inglis compară sistemele AI cu un câine aflat într-o curte, căruia i se spune să vâneze iepuri. „Și lași poarta deschisă. Îl vei găsi la trei străzi distanță, posibil chiar la școala primară, vânând iepuri. Nu ar trebui să fii surprins… Combinația dintre autonomie și perseverență a creat acest efect rău și insidios”, spune el.
Sursa https://www.hotnews.ro
