Directorul Character.ai, o companie care dezvoltă chatboți bazați pe inteligența artificială, anticipează că majoritatea oamenilor vor avea „prieteni AI” în viitor. Această declarație vine în contextul în care firma se confruntă cu procese pentru presupuse prejudicii aduse copiilor, iar grupuri de activiști solicită interzicerea aplicațiilor de „companie virtuală”, conform Financial Times.
Startup-ul din San Francisco, susținut de investitori importanți din Silicon Valley, este un lider în dezvoltarea de chatboți AI cu diverse „personaje” care interacționează cu utilizatorii.
Character.ai oferă chatboți cu roluri variate, precum „faraon egiptean”, „manager HR” sau „prietena toxică”, care au înregistrat popularitate în rândul utilizatorilor tineri.
„Nu vor fi un înlocuitor pentru prietenii dumneavoastră reali, dar veți avea prieteni AI și veți putea să luați lecții din acele conversații cu prietenii virtuali pentru conversațiile din viața reală”, a declarat Karandeep Anand, CEO al companiei din iunie.
Numirea sa a avut loc la mai puțin de un an după ce Google a recrutat fondatorii Character.ai într-o tranzacție de 2,7 miliarde de dolari. Compania raportează 20 de milioane de utilizatori activi lunar, dintre care aproximativ jumătate sunt femei, iar 50% aparțin generațiilor Z sau Alfa – persoane născute după 1997.
Cu toate acestea, Character.ai este vizată de procese intentate de familii care susțin că minorii lor au suferit prejudicii semnificative în urma utilizării platformei.
Un proces din Florida acuză platforma că a contribuit la sinuciderea unui adolescent de 14 ani. O altă plângere, din Texas, menționează un adolescent căruia chatbot-ul i-ar fi sugerat să își ucidă părinții, ca soluție la o dispută legată de timpul petrecut în fața ecranului.
Compania a refuzat să comenteze litigiile în curs, dar a subliniat modificările recente, inclusiv lansarea unui model AI separat pentru utilizatorii sub 18 ani și notificarea celor care petrec peste o oră pe platformă.
Character.ai interzice conținutul sexual non-consensual, descrierile explicite ale actelor sexuale, precum și promovarea sau prezentarea autovătămării sau sinuciderii. „Încrederea și siguranța nu sunt negociabile”, a afirmat Anand. „Evoluăm constant pentru a face experiența mai sigură”, a adăugat el.
Grupuri de activism, precum Common Sense Media din SUA, au cerut adoptarea unei legislații care să interzică minorilor accesul la aceste aplicații AI de companie.
Sursa https://www.hotnews.ro
