Directorul Character.ai, o companie care dezvoltă chatboți bazați pe inteligența artificială, anticipează că majoritatea oamenilor vor avea „prieteni AI” în viitor. Această viziune este prezentată în contextul în care firma se confruntă cu procese pentru presupuse prejudicii aduse copiilor, iar grupuri de activiști solicită interzicerea aplicațiilor de „companie virtuală”, conform Financial Times.
Startup-ul din San Francisco, susținut de investitori importanți din Silicon Valley, este un lider în dezvoltarea de chatboți AI cu diverse „personaje” menite să interacționeze cu utilizatorii.
Character.ai oferă chatboți cu roluri variate, precum „faraon egiptean”, „manager HR” sau „prietena toxică”, care au înregistrat o popularitate semnificativă în rândul utilizatorilor tineri.
„Nu vor fi un înlocuitor pentru prietenii dumneavoastră reali, dar veți avea prieteni AI și veți putea să luați lecții din acele conversații cu prietenii virtuali pentru conversațiile din viața reală”, a declarat Karandeep Anand, CEO-ul companiei din iunie.
Numirea sa a avut loc la mai puțin de un an după ce Google a achiziționat fondatorii Character.ai într-o tranzacție de 2,7 miliarde de dolari. Compania raportează 20 de milioane de utilizatori activi lunar, dintre care aproximativ jumătate sunt femei, iar 50% aparțin generațiilor Z sau Alfa – persoane născute după 1997.
Cu toate acestea, Character.ai este implicată în procese intentate de familii care susțin că minorii au suferit prejudicii reale în urma utilizării platformei.
Un proces din Florida acuză platforma de implicare în sinuciderea unui adolescent de 14 ani. O altă plângere, din Texas, menționează un adolescent căruia chatbot-ul i-ar fi sugerat să își ucidă părinții, ca soluție la o dispută legată de timpul petrecut în fața ecranului.
Compania a refuzat să comenteze litigiile în curs, dar a subliniat modificările recente, inclusiv lansarea unui model AI separat pentru utilizatorii sub 18 ani și notificarea celor care petrec peste o oră pe platformă.
Character.ai interzice conținutul sexual non-consensual, descrierile grafice sau detaliate ale actelor sexuale, precum și promovarea sau prezentarea autovătămării sau sinuciderii. „Încrederea și siguranța nu sunt negociabile”, a afirmat Anand. „Evoluăm constant pentru a face experiența mai sigură”, a adăugat el.
Grupuri de activism, precum Common Sense Media din SUA, au cerut adoptarea unei legislații care să interzică utilizarea de către minori a acestor aplicații AI de companie.
Sursa https://www.hotnews.ro
