Un proiect dezvoltat la Universitatea „Alexandru Ioan Cuza” din Iași analizează textul și ora publicării unor postări online și explică modul în care ajunge la evaluarea sa.
Un sistem de inteligență artificială dezvoltat la Universitatea „Alexandru Ioan Cuza” din Iași poate analiza postări publice de pe platforma X, fostul Twitter, pentru a identifica semne care pot fi asociate depresiei. Programul nu se oprește la un simplu rezultat, ci formulează și o explicație, în limbaj obișnuit, pentru concluzia la care ajunge.
Potrivit informațiilor transmise de UAIC, instrumentul ia în calcul atât textul mesajului, cât și momentul în care acesta a fost publicat. Cercetătorii au urmărit dacă ora din zi și ziua săptămânii pot aduce informații suplimentare față de conținutul propriu-zis al unei postări.
Proiectul a fost coordonat de conf. dr. Mădălina Răschip, de la Facultatea de Informatică. Ideea prezentată de echipă este ca sistemul să spună dacă o postare conține indicii analizate ca semne de depresie și, în același timp, să arate în una sau două propoziții de ce a dat acel rezultat.
În partea de analiză a textului, programul folosește un model de tip Transformer, denumit BERT, pentru a interpreta cuvintele în funcție de context. Reprezentării rezultate i se adaugă informații despre ora la care a fost publicat mesajul și despre ziua săptămânii, iar o a treia componentă produce explicația pentru verdict, scrie agerpres.ro
Sistemul a fost antrenat pe aproximativ 20.000 de mesaje de pe X, provenite de la 72 de utilizatori. Jumătate dintre mesaje erau marcate ca fiind asociate depresiei, iar cealaltă jumătate nu. Pe setul de test, programul a obținut un rezultat corect în 85% dintre cazuri, conform datelor prezentate de universitate.
Analiza citată de cercetători arată că postările încadrate de model la depresie au apărut mai frecvent noaptea și dimineața devreme, în timp ce mesajele publicate în jurul prânzului au avut, în general, scoruri mai mici. Echipa subliniază însă că aceste tendințe nu sunt reguli stricte și că rezultatele unui astfel de instrument trebuie privite cu prudență.
Explicațiile sunt importante, potrivit echipei care a prezentat proiectul, deoarece medicii, utilizatorii și cercetătorii trebuie să poată înțelege de ce un model a încadrat o postare într-un anumit fel. Ele pot ajuta la verificarea faptului că evaluarea se bazează pe indicii relevante și nu pe corelații întâmplătoare.
În contextul folosirii inteligenței artificiale pentru stări emoționale, UAIC amintește că Uniunea Europeană a interzis citirea emoțiilor la locul de muncă și în școli, invocând riscurile pentru persoanele vulnerabile. În alte situații, asemenea sisteme sunt considerate cu risc ridicat și trebuie să își poată explica deciziile, precum și să permită control uman.
