O sută de articole despre opinie legate de războiul din Iran generate cu Inteligenţa Artificială au ajuns în zeci de publicaţii din America. Totul era parte a unei operaţiuni de distribuire de conţinut despre acţiunile militare ale Statelor Unite în Iran, după cum dezvăluie chiar OpenAI, compania care deţine ChatGPT.
Compania de AI a avertizat că textele critice la adresa războiului au fost redactate folosindu-se instrumentele platformei.
Publicaţiile americane care au preluat textele erau titluri mai mici şi au publicat materialele fără să realizeze că în spate este un bot, nu o persoană reală.
În acelaşi raport, OpenAI vorbeşte şi de grupuri de utilizatori din Rusia care au fost interzise pentru că au publicat în numele unei comunităţi din America Latină.
Câteva detalii:
Unul dintre articolele generate artificial, publicat în Port St. Joe Star, un ziar săptămânal din Florida, SUA, era semnat de Ervin Hoskins. Potrivit The Washington Post, numele se regăseşte şi în cazul unor articole critice la adresa războiului, publicate în publicaţii mai cunoscute, precum Middle East Monitor şi Daily Kos, care au în total mai mult de trei milioane de urmăritori pe Facebook.
Totuşi, compania OpenAI, care a realizat ChatGPT, a explicat că articolele semnate de Hoskins ar fi fost, de fapt, create cu ajutorul chatbotului său de către un grup de utilizatori din Iran, ca parte a unei „campanii de influenţare”.
Conform companiei, aproape o sută de articole false au fost identificate ca fiind din aceeaşi campanie şi au fost publicate în cel puţin 20 de publicaţii din SUA.
Conform instrumentului de verificare online al OpenAI, poza autorului care apărea în rubrica de articole semnate de Hoskins, publicată în Star, a fost creată cu ajutorul inteligenţei artificiale, mai exact instrumentele companiei.
În document, compania a explicat că autorul Hoskins era parte dintr-o operaţiune de distribuire de conţinut despre acţiunile militare ale Statelor Unite în Iran.
Compania OpenAI a spus că Hoskins se numără printre cei şapte autori care aveau publicate articole realizate cu ajutorul inteligenţei artificiale. Utilizatorii din spatele acestor autori fictivi au transmis instrucţiuni chatbot-ului în limba persană. OpenAI a mai precizat că operaţiunile păreau să fie desfăşurate de o entitate comercială, în cadrul unei „campanii de influenţare contra cost”.
David Adlerstein, editorul şi directorul publicaţiei Port St. Joe Star, a explicat, într-un e-mail, că articolul atribuit lui Hoskins i-a atras atenţia după ce i-a fost propus de PeaceVoice, un program şi serviciu de distribuţie media din Oregon, SUA.
David Adlerstein:
„Pentru că ne aflăm într-o zonă foarte conservatoare a Floridei, de obicei nu public articolele de opinie de la PeaceVoice. Acesta mi s-a părut însă provocator de reflecţie şi nu un atac vehement la adresa domnului Trump, ceea ce ar fi problematic pentru o mare parte dintre cititorii noştri.”
Editorul a mai spus că, datorită relaţiei sale de lungă durată cu PeaceVoice, nu s-a gândit că ar trebui să verifice sursa articolului sau să afle mai multe despre autorul acestuia.
Tom Hastings, directorul fondator al PeaceVoice, a susţinut că organizaţia şi-a construit o politică de interzicere a folosirii inteligenţei artificiale după ce a fost contactată de OpenAI.
Compania OpenAI a mai spus că a interzis accesul grupului responsabil pentru aceste conturi false la ChatGPT din Iran.
Iată ce alte detalii au fost precizate în raportul de la OpenAI:
„Activitatea desfăşurată părea, în ansamblu, compatibilă cu acţiunile unui operator comercial care derula o campanie de influenţare contra cost, însă nu am reuşit să identificăm actorul implicat în mod specific. Am împărtăşit informaţii despre acest caz cu autorităţile competente.”
Daily Kos şi Middle East au declarat că au şters textele publicate sub semnăturile false şi că se gândesc la o soluţie pentru a preveni asemenea incidente.
Articolele atribuite lui Hoskins şi publicate pe Daily Kos au apărut pe o platformă destinată comunităţii, unde materialele nu sunt verificate de echipa publicaţiei înainte de a fi publicate.
Markos Moulitsas, fondatorul site-ului, a explicat într-un e-mail că o asemenea campanie era „extrem de dăunătoare” pentru platformă.
Markos Moulitsas:
„Deja ne confruntăm cu situaţii în care membrii comunităţii îi acuză pe alţii că sunt boţi sau conturi false doar pentru că nu sunt de acord cu ei. O operaţiune de acest fel nu face decât să toarne gaz pe foc. Însăşi încrederea din comunitatea noastră este în joc.”
Utilizatorii ChatGPT din Iran îi cereau chatbotului să adapteze textele astfel încât să respecte criteriile de publicare ale unei anumite publicaţii şi să redacteze un e-mail de prezentare, care urma să fie trimis unui editor al acesteia. Articolele erau generate în limba engleză.
Autorii fictivi erau prezentaţi ca jurnalişti independenţi, analişti de politici publice şi susţinători ai păcii. Middle East Monitor avea publicate cel puţin 21 de articole sub semnături pe care OpenAI le-a identificat ca fiind false, printre care:
- Ervin Hoskins,
- Michael Harrison,
- Jenny Williams,
- Alice Johnson.
Unele semnături, printre care şi cea a lui Hoskins, există şi pe conturi de social media şi, într-un caz, pe un profil de pe platforma de blogging Medium. Conturile găsite pe reţelele de socializare distribuiau conţinut sub acelaşi nume şi foloseau aceeaşi poză de profil ca în cazul articolelor publicate.
Conform instrumentului de la OpenAI pentru identificarea imaginilor generate cu tehnologia companiei, şi alţi autori precum Ericka Feusier au utilizat o fotografie de profil generată cu AI.
În raportul de la OpenAI cu privire la campaniile de influenţare realizate cu ajutorul tehnologiei sale menţionează şi un grup de conturi ChatGPT din Rusia. Acestea au fost interzise după ce au fost folosite pentru a publica în numele a ceea ce părea a fi un grup de reflecţie fictiv din America Latină.
Compania OpenAI a explicat că a publicat cercetarea pentru a informa autorităţile de reglementare, alte firme şi publicul în ceea ce priveşte „modul în care observăm că actorii care reprezintă ameninţări încearcă să folosească inteligenţa artificială şi pentru a scoate în evidenţă vulnerabilităţile pe care aceştia încearcă să le exploateze”.
Un cititor al publicaţiei Star a trimis o scrisoare către redacţie, referitor la articolul lui Hoskins, pe care l-a citit. Editorul Adlerstein a spus că se întâmplă rar ca un cititor să facă acest lucru legat de un articol de opinie despre un subiect de interes naţional.
După raportul publicat de OpenAI, editorul susţine că în considerare adoptarea unei politici explicite referitoare la folosirea inteligenţei artificiale în redactarea articolelor.
David Adlerstein:
„Nu am găsit nimic remarcabil de favorabil Iranului în textele sale, iar un astfel de material nu aş publica niciodată. Am considerat că era vorba doar despre o critică legitimă la adresa unui război ales de Trump.
Dacă domnul Hoskins va mai trimite un articol, îi voi cere pur şi simplu să ne întâlnim pe Zoom pentru a discuta. Cel puţin deocamdată, este cel mai bun lucru pe care îl pot face.”
Cu cât instrumentele de inteligenţă artificială s-au dezvoltat, tot mai multe publicaţii au fost nevoite să şteargă conţinutul generat cu AI, publicat cu semnături false, care la început, nu au fost găsite de editori.
Spre exemplu, publicaţii precum Wired şi Business Insider au şters, în anul 2025, mai multe articole sub numele Margaux Blanchard, care se considerau a fi scrise prin intermediul instrumentelor AI.
Autor: Stefan Necoara stefan.necoarapaginademedia.ro
