Doi dintre cercetătorii porecliți „nașii” inteligenței artificiale moderne, precum și directori de rang înalt ai companiilor OpenAI și Anthropic, avertizează guvernele să se pregătească pentru o „explozie a inteligenței” în domeniul AI, despre care spun că ar putea fi cea mai importantă evoluție tehnologică din istorie.
Un raport la care au lucrat laureatul Nobel Geoffrey Hinton și informaticianul canadian Yoshua Bengio, considerați „nașii AI” moderne datorită activității lor de pionierat în acest domeniu, îi îndeamnă pe politicieni să acționeze acum, înainte ca progresul tehnologic să devină imposibil de controlat, relatează The Guardian.
Autorii spun că sunt preocupați de o „explozie a inteligenței”, pe care o descriu drept o „accelerare dramatică, determinată de AI, a progresului în domeniul AI, comprimând în luni sau mai puțin progrese care, în mod normal, ar necesita ani”.
Lucrarea, intitulată „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării AI ar declanșa o explozie a inteligenței?”, este semnată de peste 20 de persoane, printre care Hinton și Bengio.
Printre ceilalți autori se numără Jack Clark, cofondator al Anthropic, și Jakub Pachocki, cercetătorul-șef al OpenAI. Cercetătorul franco-american Yann LeCun, al treilea dintre „Nașii AI”, nu a participat la redactarea lucrării.
Autorii lucrării se concentrează asupra posibilității ca sistemele de AI să își poată îmbunătăți singure capacitățile fără intervenția oamenilor, un proces cunoscut sub numele de „autoîmbunătățire recursivă”.
Acest proces este denumit în linii mari în lucrare „cercetare și dezvoltare automatizată” în domeniul AI. Lucrarea afirmă că, odată ce sistemele de AI vor ajunge să aibă capacități de nivel expert în cercetarea și dezvoltarea tehnologiei, un singur dezvoltator ar putea coordona o forță de muncă echivalentă cu „milioane” de cercetători umani de top.
Autorii afirmă că automatizarea cercetării și dezvoltării AI reprezintă cea mai probabilă sursă a unei explozii a inteligenței, deoarece AI contribuie deja la îmbunătățirea propriei tehnologii, iar sistemele îmbunătățite rezultate pot fi implementate rapid odată ce sunt construite.
„O explozie a inteligenței ar putea fi cea mai importantă evoluție tehnologică din istoria omenirii, comprimând ani de progres în luni sau mai puțin, amenințând controlul uman asupra sistemelor de AI și erodând grav mecanismele de control al puterii în interiorul și între state, companii și ramuri ale guvernului”, avertizează lucrarea.
Îndemnând guvernele să acționeze rapid, autorii spun: „Odată ce începe o explozie a inteligenței, fereastra de oportunitate pentru a acționa s-ar putea închide”.
Aceștia recomandă trei priorități de politică publică: impunerea unor rapoarte transparente privind progresul cercetării și dezvoltării legate de AI inclusiv prin integrarea unor auditori independenți în companii; găsirea unor modalități de a limita ritmul extrem de rapid al dezvoltării AI; și pregătirea pentru adaptarea la o explozie a inteligenței.
Sursa https://www.hotnews.ro
