Frica şi furia apar mult mai des în textele manipulative decât în ştirile reale, iar felul în care sunt construite propoziţiile poate oferi indicii despre intenţia din spatele mesajului.
O cercetare pe aproximativ 3.000 de articole în limba română a analizat aceste tipare şi capacitatea inteligenţei artificiale de a le identifica.
Analiza a fost prezentată de Veridica.ro şi stă la baza unei teze de masterat susţinute la Facultatea de Matematică şi Informatică a Universităţii din Bucureşti.
Frica şi furia, mai prezente în ştirile false
În cazul ştirilor false, însă, frica şi furia apar într-o proporţie mult mai mare decât în materialele jurnalistice reale.
Pentru a analiza distribuţia emoţiilor, cercetătorii au folosit un model automat de clasificare a sentimentelor. Rezultatele sugerează că apelul la emoţii negative poate fi o tactică prin care autorii conţinutului manipulator atrag atenţia şi influenţează reacţiile publicului.
Analiza a împărţit textele în patru categorii: ştiri reale, fake news, dezinformare şi propagandă de război. Concluzia este că manipularea nu se rezumă la informaţii false, ci poate folosi şi strategii de redactare menite să reducă spiritul critic al cititorului.
Face gramatica diferenţa în identificarea ştirilor false? Culmea, da
Şi structura propoziţiilor poate oferi indicii. Potrivit cercetării, textele de tip fake news folosesc construcţii sintactice mai simple decât ştirile reale.
Ştirile false folosesc, în medie, propoziţii cu o structură mai simplă decât cele reale, potrivit analizei. Cercetătorii au măsurat complexitatea construcţiilor gramaticale şi au obţinut un scor mediu de 4,83 pentru ştirile false, faţă de 5,57 pentru cele reale. O structură mai simplă poate face mesajul mai uşor de parcurs, însă nu reprezintă, de una singură, o dovadă de manipulare.
Un alt element identificat este folosirea mai frecventă a diatezei pasive. Structurile pasive apar de peste două ori mai des în textele manipulative decât în jurnalismul obiectiv, iar în 94% dintre aceste cazuri autorul acţiunii este omis din redactarea articolului.
Formulări precum „s-a decis” sau „au fost ascunse” pot transmite acuzaţii fără să precizeze cine a luat decizia sau cine ar fi ascuns informaţiile. Cititorul primeşte astfel o afirmaţie, dar nu şi un autor identificabil al acţiunii, a cărui implicare să poată fi verificată.
Cercetarea mai indică o densitate mai mare a adjectivelor în textele manipulative, un element care poate contribui la încărcarea emoţională a mesajului.
AI-ul poate identifica manipularea cu o acurateţe de peste 98%
Algoritmii clasici, bazaţi pe frecvenţa cuvintelor, au rezultate limitate. De exemplu, o analiză geopolitică obiectivă poate fi clasificată greşit drept propagandă doar pentru că foloseşte frecvent termeni precum „război” sau „Rusia”.
În schimb, modelele de tip Transformer, antrenate special pentru limba română, precum RoBERT, au atins o acurateţe de peste 98% în separarea ştirilor legitime de cele manipulative, în cadrul unei clasificări binare.
Rezultatul nu înseamnă însă că AI-ul poate identifica fără greşeală orice ştire falsă. Performanţa obţinută într-un anumit set de date nu garantează aceleaşi rezultate în orice context sau în cazul unor texte diferite de cele folosite la antrenare şi evaluare.
Când AI-ul confundă opinia cu dezinformarea
Una dintre vulnerabilităţile identificate este dificultatea de a face diferenţa între manipulare şi jurnalismul de opinie asumat.
Într-un exemplu prezentat în cercetare, un articol de opinie care utiliza un limbaj subiectiv a fost clasificat drept manipulare cu o certitudine de 99,7%. Modelul a identificat retorica polarizantă şi apelul la emoţii, dar nu a ţinut suficient cont de genul jurnalistic al materialului.
Nici modelele mari de limbaj nu sunt lipsite de probleme. Acestea pot genera explicaţii bazate pe informaţii depăşite sau pot rata manipularea atunci când aceasta este ascunsă într-un limbaj instituţional, aparent obiectiv.
Analiza stă la baza tezei de masterat în procesarea limbajului natural „Media Manipulation Detection on Novel Romanian Dataset”, susţinută la Facultatea de Matematică şi Informatică a Universităţii din Bucureşti. Informaţiile au fost preluate de Veridica.ro.
Sursa foto: Dreamstime
Autor: Claudia Baidoc claudia.baidocpaginademedia.ro
