YouTube plănuieşte dezvoltarea unui instrument bazat pe inteligenţa artificială care depistează folosirea fără acord a imaginii unei persoane în conţinut generat artificial. Următoarea etapă a programului va cuprinde, într-o fază de testare, jurnalişti, oficiali guvernamentali, precum şi candidaţi politici, în încercarea de a lupta cu fenomenul deepfake-urilor şi al impersonării online.
Reprezentanţii platformei de conţinut video precizează că măsura este un răspuns la creşterea accelerată a conţinutului realizat cu ajutorul inteligenţei artificiale, care poate reproduce realist vocea sau chipul unor persoane publice.
Care este mecanismul sistemului?
Conform reprezentanţilor YouTube, instrumentul se aseamănă cu sistemul Content ID, utilizat de mai mulţi ani pentru depistarea încălcărilor de drepturi de autor pe platformă. Cea mai recentă tehnologie analizează videoclipurile create cu AI şi verifică dacă acestea folosesc imaginea sau asemănarea unei persoane înregistrate de program.
Dacă sistemul identifică o potrivire, participantul poate analiza conţinutul şi poate cere ştergerea acestuia dacă încalcă regulile de confidenţialitate ale platformei.
Reprezentanţii YouTube susţin că detectarea automată nu determină neapărat eliminarea conţinutului. Conducerea platformei declară că va continua să ţină cont de anumite excepţii de materiale considerate de interes public, precum satirele politice sau parodiile, mai ales dacă acestea critică lideri sau persoane influente.
Politicienii şi jurnaliştii, incluşi în noua etapă
Extinderea funcţiei către jurnalişti, candidaţi politici sau oficiali guvernamentali este făcută pentru a testa promptitudinea instrumentului într-un spaţiu în care riscul de manipulare prin deepfake este considerat mai ridicat. YouTube precizează că accesul la această tehnologie ar putea fi extins considerabil în următoarele luni, în funcţie de rezultatele programului pilot.
Participanţii trebuie să îşi verifice identitatea înainte de a fi înregistraţi în program. Informaţiile obţinute în procesul de verificare sunt folosite exclusiv pentru confirmarea identităţii şi pentru funcţionarea instrumentului de siguranţă şi nu sunt utilizate pentru antrenarea modelelor de inteligenţă artificială generativă realizate de Google.
Ce urmează să se întâmple?
Exceptând soluţiile tehnice, YouTube sprijină dezvoltarea unor reglementări legale referitoare la protecţia imaginii şi a identităţii în spaţiul digital.
O altă iniţiativă anunţată de companie este NO FAKES Act, care vizează stabilirea la nivel federal a dreptului de imagini a unei persoane.
Autor: Stefan Necoara stefan.necoarapaginademedia.ro
