"Acesta va fi un job stresant și vei intra direct în pâine aproape imediat", a scris Sam Altman, CEO-ul OpenAI, anunțând pe rețelele de socializare că firma care a creat ChatGPT angajează un director pentru anticiparea și prevenirea riscurilor, relatează Gizmodo.
În schimbul a 555.000 de dolari pe an, persoana care va ocupa poziția ar urma să extindă și să coordoneze programul de pregătire existent în cadrul Departamentului pentru sisteme de siguranță al OpenAI.
Această divizie construiește mecanismele de protecție care ar trebui să facă modelele OpenAI să "se comporte conform intențiilor în contexte reale".
Însă, modelele sale de inteligență artificială se comportă deja conform intențiilor dezvoltatorilor? Gizmodo amintește că anul acesta ChatGPT a continuat să halucineze în documente juridice, a fost vizat de sute de plângeri și a fost acuzat inclusiv în instanțe de provocarea sau exacerbarea unor crize de sănătate mintală grave.
Sora, modelul OpenAI de generare a imaginilor, a trebuit să-și piardă capacitatea de a genera videoclipuri cu figuri precum Martin Luther King Jr., deoarece utilizatorii abuzau de această funcționalitate.
Atunci când cazuri legate de problemele produselor OpenAI ajung în instanță, există un argument juridic potrivit căruia utilizatorii ar fi abuzat de produsele companiei. În noiembrie, un document depus în instanță de avocații OpenAI a invocat încălcări ale regulilor ChatGPT drept cauză potențială a morții lui Adam Raine, un adolescent care s-a sinucis după ce a cerut sfaturi chatbot-ului.
Sursa https://www.hotnews.ro
