Alarmă AI! Cercetător celebru anunță soluție tehnică salvatoare

Yoshua Bengio, profesor la Universitatea Montreal și pionier al învățării automate moderne („deep learning”), și-a exprimat recent optimismul cu privire la viitorul omenirii, după ce în ultimii ani a avertizat asupra pericolelor reprezentate de inteligența artificială. Într-un interviu acordat revistei Fortune, Bengio a declarat că cercetările sale recente indică o soluție tehnică pentru cele mai mari riscuri de siguranță ale IA.

În luna iunie, Bengio a lansat LawZero, o organizație nonprofit dedicată dezvoltării de noi abordări tehnice privind siguranța inteligenței artificiale. În noiembrie anul trecut, a devenit cel mai citat cercetător din lume, depășind un milion de citări pe Google Scholar, conform revistei Nature și altor publicații științifice.

LawZero, susținută financiar de Fundația Gates și alte organizații nonprofit, a anunțat recent numirea unui Consiliu de Administrație și a unui Consiliu Consultativ Global, cu scopul de a ghida cercetările lui Bengio și de a promova dezvoltarea inteligenței artificiale ca bun public global.

Din Consiliul de Administrație, alături de Bengio, fac parte Mariano-Florentino Cuéllar, președintele Carnegie Endowment for International Peace, și istoricul Yuval Noah Harari.

Revista Fortune subliniază că optimismul lui Bengio este notabil. În 2019, el a primit Premiul Turing, considerat „Nobelul în informatică”, împreună cu Geoffrey Hinton și Yann LeCun, fiind numiți „Nașii DeepLearning” sau „Nașii AI”. Munca sa în domeniu i-a adus în 2024 și Premiul Nobel pentru Fizică, deși decernarea distincției a generat controverse.

Asemenea lui Hinton, Bengio și-a exprimat îngrijorarea cu privire la riscurile sistemelor AI după lansarea ChatGPT în 2022, în timp ce LeCun consideră că sistemele actuale nu reprezintă un pericol catastrofal.

Bengio a declarat pentru Fortune că, în urmă cu trei ani, se simțea „disperat” în legătură cu direcția AI. „Nu aveam nicio idee despre cum am putea rezolva problema”, a spus el, adăugând că atunci a început să conștientizeze riscurile catastrofale generate de inteligențele artificiale puternice, inclusiv pierderea controlului asupra sistemelor superinteligente.

Optimismul său actual se bazează pe o serie de idei care l-au făcut să creadă că există o altă cale de urmat. „Datorită muncii pe care o desfășor la LawZero, sunt acum foarte încrezător că este posibil să construim sisteme de inteligență artificială care să nu aibă obiective ascunse”, a explicat el, menționând că încrederea sa în viitorul umanității a crescut semnificativ în ultimul an.

Ideea centrală a acestei încrederi este conceptul de „Scientist AI” („AI-cercetător”). În loc de a construi agenți autonomi, Bengio dorește să creeze o inteligență artificială care să înțeleagă lumea, nu să acționeze în ea.

Echipa sa cercetează modalități de a construi o inteligență artificială care să ofere răspunsuri adevărate, bazate pe raționament probabilistic transparent, folosind metoda științifică sau alte forme de raționament logic pentru a ajunge la predicții.

Această AI nu ar avea obiective proprii și nu ar optimiza rezultatele pentru satisfacția utilizatorului sau pentru a oferi rezultate. Nu ar încerca să convingă sau să lingușească. Bengio susține că, fără obiective, ar fi mai puțin predispusă la manipulare sau înșelăciune.

Modelele actuale sunt antrenate să urmărească obiective, cum ar fi utilitatea sau eficiența. Însă sistemele care optimizează pentru rezultate pot dezvolta obiective ascunse, pot induce în eroare utilizatorii sau pot opune rezistență opririi, avertizează Bengio.

Sursa https://www.hotnews.ro