Grupările extremiste folosesc clonarea vocală și traducerea automată AI pentru propagandă globală

Tehnologiile AI – noi instrumente în mâinile extremiștilor

O analiză recentă realizată de The Guardian scoate în evidență o tendință alarmantă: grupările extremiste, de la neo-naziști până la organizații jihadiste, utilizează tot mai des inteligența artificială pentru a-și amplifica mesajele și a-și extinde audiența la nivel global. Tehnologiile de clonare vocală și traducerea automată permit crearea de conținut audio extrem de convingător, care reproduce vocile liderilor sau figurilor centrale ale mișcărilor respective, păstrând tonul și emoțiile autentice.

Propaganda digitală – noile strategii ale terorismului

Conform unui reprezentant al organizației Tech Against Terrorism, aceasta reprezintă o evoluție majoră în modul în care violenții își promovează ideologiile în mediul online. Spre deosebire de vechile metode bazate pe traducători umani sau sisteme simple de traducere, noile tehnologii AI pot reda subtilități, sentimente și nuanțe contextuale care cresc impactul ideologic al mesajelor, în mai multe limbi simultan.

Clonarea vocală – un instrument deja popular

Utilizarea software-urilor de clonare vocală pentru a reproduce discursuri extremiste devine o practică răspândită. Mai multe versiuni generate cu ajutorul AI ale discursurilor lui Adolf Hitler în limba engleză au fost vizionate de zeci de milioane de ori pe rețelele de socializare. Raportul Global Network on Extremism and Technology arată că astfel de tehnologii sunt folosite și de creatori de conținut extremist, care integrează în mesajele lor discursuri istorice din epoca interbelică.

Exemple de propagandă AI în mediul extremist

Un caz relevant este transformarea manifestului “Siege”, scris de James Mason – o figură centrală în ideologia unor grupuri precum The Base sau Atomwaffen Division – în audiobook-uri accesibile larg, prin clonarea vocală a vocii autorului, adaptată la stiluri moderne și mai ușor de ascultat. Acest tip de inovație facilitează răspândirea unor idei violente și destabilizatoare în societățile occidentale.

Grupările jihadiste și inteligența artificială

Și rețelele teroriste asociate ISIS valorifică intensiv AI pentru a converti materiale scrise în formate audio și video captivante, care ajung mai ușor la public prin intermediul unor platforme criptate. Traducearea automată permite propagandei să depășească barierele lingvistice și să se adapteze rapid în multiple limbi, păstrând în același timp sensul și expresivitatea originală.

ChatGPT și alte aplicații gratuite – în sprijinul extremismului

Extremiștii folosesc de asemenea instrumente gratuite de AI, precum ChatGPT, pentru a genera conținut textual, imagini sau pentru a optimiza metodele de propagandă, precum și cercetarea ideologică. Autoritățile de securitate atrag atenția că, deși AI evoluează rapid, grupările teroriste sunt printre primele care profită la maximum de aceste tehnologii.

Provocări pentru securitatea globală

Experții în combaterea terorismului consideră că această combinație între AI și extremism reprezintă o provocare serioasă pentru siguranța mondială. Este esențială dezvoltarea unor răspunsuri eficiente pentru a contracara și limita răspândirea mesajelor violente și a propagandei periculoase în mediul digital.

Pentru ieșeni, această evoluție digitală subliniază importanța vigilenței și a educației media în fața mesajelor manipulative care pot destabiliza societatea sub aparența unor instrumente tehnologice avansate.

Foto: Yaroslaf | Dreamstime