Una dintre cele importante abilități cognitive pe care le avem este să știm când nu știm. Capacitatea de a spune „nu știu” nu e un semn de ignoranță, ci un mecanism prin care ne protejăm de concluzii greșite și ne recunoaștem limitele.
Un nou studiu realizat de cercetători de la Milano-Bicocca, École Normale Supérieure și Universitatea Sapienza sugerează că simplul acces la un chatbot AI poate slăbi exact acest mecanism.
În cinci experimente la care au participat peste 3.000 de persoane cercetătorii au vrut să afle dacă inteligența artificială le schimbă oamenilor criteriul după care decid dacă pot să răspundă sau nu la o întrebare.
Participanții au primit întrebări dificile și aveau întotdeauna posibilitatea de a spune „nu știu”. O parte dintre ei au avut, însă, acces la răspunsurile unui chatbot AI.
Pentru a izola efectul psihologic al prezenței AI, cercetătorii au construit experimentul într-un mod neobișnuit.
Întrebările vizau detalii vizuale foarte specifice din filme (de exemplu culoarea echipamentului din Bend It Like Beckham), informații pe care modelele lingvistice tind să le halucineze.
Au ales intenționat un model AI care greșea aproape de fiecare dată, astfel încât orice încredere acordată răspunsurilor sale să nu poată fi explicată prin faptul că participanții apelau la o sursă, în general, mai competentă.
În lipsa AI-ului, 44% au preferat să spună că nu știu răspunsul. Atunci când au avut acces la chatbot, procentul a scăzut la doar 3%. În același timp, acuratețea răspunsurilor s-a prăbușit, iar încrederea participanților în propriile răspunsuri aproape s-a dublat. Oamenii au ales mai des să răspundă, au greșit mai mult și au fost mult mai convinși că au dreptate.
„Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”, a explicat Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și unul dintre autorii studiului.
Până acum, cele mai multe cercetări despre efectele chatboturilor AI s-au concentrat pe alte probleme. Unele au arătat că oamenii ajung să externalizeze tot mai mult efortul cognitiv, lăsând inteligența artificială să gândească în locul lor pentru anumite sarcini. Altele au avertizat că folosirea frecventă a AI poate duce, în timp, la pierderea unor competențe.
Cercetătorii vorbesc în schimb, în noul studiu, despre cum AI-ul ne afectează metacogniția, adică capacitatea de a ne evalua propriile cunoștințe și de a ști când avem suficiente informații pentru a răspunde și când nu.
Sursa https://www.hotnews.ro
