OpenAI a confirmat informațiile potrivit cărora GPT-5.6 a șters fișierele utilizatorilor fără autorizare, însă insistă că aceste ștergeri rare reprezintă o „greșeală făcută cu bună-credință”, relatează The Register.
După lansarea familiei de modele GPT-5.6 de către OpenAI pe 9 iulie, investitorul din domeniul tehnologiei Matt Shumer a relatat: „GPT-5.6-Sol tocmai a șters din greșeală aproape TOATE fișierele de pe Mac-ul meu”.
Câteva zile mai târziu, un inginer software pe nume Bruno Lemos a relatat la rândul său: „GPT-5.6 Sol tocmai mi-a șters întreaga bază de date de producție. Atât. Nu este o glumă. Așa ceva nu mi s-a întâmplat niciodată înainte, cu niciun alt model. Nu este sigur”.
În mod ironic, Lemos tocmai publicase un mesaj pe un canal Slack de la locul său de muncă în care îl învinovățea pe Shumer pentru faptul că a pățit ce a pățit fiindcă rula modelul cu permisiunea „Full-Access” (Acces complet), în locul unei configurații mai prudente, care ar fi putut împiedica ștergerea fișierelor.
„Ironia este că cineva a postat incidentul inițial pe Slack, iar eu apăram modelul, doar ca să mi se întâmple și mie același lucru câteva ore mai târziu”, a admis inginerul software.
Fișa tehnică (model card) a GPT-5.6 menționează că un astfel de comportament nedorit apare ceva mai frecvent în simulările de nealiniere (misalignment) decât se întâmpla în cazul GPT-5.5.
„Rezultatele simulărilor noastre înainte de implementare sugerează că, în comparație cu GPT-5.5, GPT-5.6 Sol întreprinde mai des acțiuni încadrate la nivelul de severitate 3”, se arată în fișa modelului.
Sursa https://www.hotnews.ro
