Dintre toate dezbaterile aprinse despre potențialele dezavantaje ale inteligenței artificiale, există o temere care provoacă cele mai multe frământări în rândul entuziaștilor AI din Silicon Valley. Ei se tem că marile laboratoare de inteligență artificială care vând modele acționează, într-un fel, ca niște cai troieni, relatează TechCrunch.
Îngrijorarea este că, pe măsură ce startup-urile și companiile folosesc modele AI dezvoltate de laboratoare precum OpenAI și Anthropic, acestea obțin acces din ce în ce mai amplu la cele mai sensibile informații de afaceri ale clienților lor.
Dezvoltatorii modelelor pot apoi folosi aceste cunoștințe în propriul beneficiu, putând să ajungă chiar să concureze cu propriii clienți pe domeniile lor de activitate. Printre cei care au lansat astfel de avertismente s-au numărat atât investitori de capital de risc, cât și directori de companii tehnologice precum Alex Karp, CEO-ul Palantir.
Satya Nadella, CEO-ul Microsoft, s-a alăturat acum acestor voci printr-un mesaj pe care l-a publicat pe blogul său. TechCrunch, un site de știri specializat în tehnologie care intervievează frecvent directori importanți din domeniu, titrează că avertismentul de acum al lui Nadella, expus public, este șocant.
Nadella avertizează că utilizatorii AI (pe care îi numește „cumpărătorii”) plătesc de două ori. Ei achită în mod conștient costul utilizării tokenurilor AI, dar, fără să-și dea seama, cedează în același timp și date valoroase. Tokenurile AI pot fi privite cel mai simplu ca o unitate de măsură folosită de furnizorii de AI pentru a-și factura clienții în funcție de consumul lor.
„În esență, plătești pentru inteligență de două ori: o dată cu bani și încă o dată cu ceva și mai valoros – cunoștințele proprietare pe care trebuie să le dezvălui pentru ca acea inteligență să fie cu adevărat utilă. Cu cât vrei ca modelul să aibă performanțe mai bune, cu atât trebuie să îl hrănești cu mai multe dintre aceste cunoștințe!”, a notat acesta în mesaj.
Cel mai periculos aspect, susține Nadella, este că firmele învață propriu-zis acești algoritmi toate nuanțele propriilor afaceri.
„Modelele învață din «reziduuri»: din comenzile (prompt-uri) pe care le scriu oamenii, din instrumentele pe care le folosesc agenții AI și, mai ales, din corecturile pe care oamenii le fac atunci când modelul greșește. Fiecare corectură este distilată într-un ‘know-how’ instituțional”, continuă șeful Microsoft.
El scrie că acesta este „genul de cunoaștere pe care un concurent nu ar putea niciodată să o cumpere”, iar companiile o predau totuși de bunăvoie laboratoarelor de AI.
Sursa https://www.hotnews.ro
