NATO-ov Centar izvrsnosti za strateške komunikacije objavio je 20. kolovoza 2024. izvješće koje otkriva alarmantne trendove u korištenju umjetne inteligencije (UI) u digitalnom marketingu, upozoravajući na rastuće rizike od manipulacije na društvenim mrežama. Izvješće pod naslovom “UI u preciznom uvjeravanju” istražuje kako UI može biti korišten ne samo za legitimno ciljanje publike, već i za sofisticirane kampanje koje imaju potencijalno opasne posljedice.
Prema izvješću, napredak u UI tehnologijama, poput generativnih modela GPT, DALL·E i Midjourney, omogućio je stvaranje sadržaja koji je sve teže razlikovati od onog kojeg stvaraju ljudi. Ovi alati mogu generirati tekstove, slike i videozapise visoke kvalitete, što otvara vrata za njihovu upotrebu u manipulativne svrhe.
Izvještaj ističe nekoliko značajnih slučajeva u kojima je sadržaj generiran UI-om te je manipulativno korišten na društvenim mrežama. Ovi slučajevi ilustriraju kako se UI može zloupotrijebiti za utjecanje na javno mnijenje i širenje dezinformacija.
Primjeri uporabe umjetne inteligencije u manipulativne svrhe
Jedan od istaknutih primjera je “Kampanja protiv Ukrajine s pesticidima“, u kojoj je UI generirani sadržaj korišten za lažne tvrdnje da su ukrajinski poljoprivredni proizvodi zagađeni opasnim pesticidima. Ova kampanja bila je obilježena ponavljajućim objavama na Facebooku, gdje su identične poruke dijeljene preko različitih računa. Ove objave sadržavale su tekst generiran UI-om koji je tvrdio da je ukrajinska pšenica puna toksina. Dosljednost i koordinacija ovih objava na platformama kao što su Facebook, VKontakte i X sugeriraju namjeran pokušaj manipulacije percepcijom javnosti na velikoj skali. UI generirani sadržaj nije bio samo uvjerljiv, već i široko rasprostranjen, te se pojavljuje na više jezika, što ukazuje na opsežan doseg i potencijalni utjecaj ove kampanje.
Drugi slučaj uključuje promociju “Kontroverzne web stranice” putem UI generiranog teksta na Facebooku. U ovom slučaju, duplicirane poruke koje podržavaju prosvjede poljoprivrednika i kritiziraju političke koalicije bile su objavljivane u kratkim razmacima, što ukazuje na automatizaciju i prisutnost botova. Poruke su također spominjale desničarsku austrijsku web stranicu poznatu po širenju teorija zavjere i dezinformacija. Ovaj primjer naglašava korištenje UI generiranog sadržaja za pojačavanje kontroverznih narativa i usmjeravanje korisnika na specifične stranice koje podržavaju te narative.
Osim ovih primjera, izvještaj detaljno opisuje korištenje UI generiranih vijesti na TikToku. Stranica pod nazivom “Nachrichten Deutschland” identificirana je kao vjerojatno sadrži UI generirane vijesti koje pokrivaju teme poput njemačke politike i globalnih pitanja, uključujući rat u Ukrajini i američke izbore. Ovi videozapisi karakterizirani su dosljednim formatom i isporukom, što dodatno sugerira da su generirani UI-om. Studija ukazuje na to da je prokremaljska TikTok mreža, sastavljena od 300 kanala, proizvodila sličan sadržaj, što ukazuje na širu, koordiniranu kampanju manipulacije informacijama na ovoj platformi.
Ovi slučajevi kolektivno demonstriraju potencijal UI generiranog sadržaja da olakša kampanje dezinformacija, manipulira javnim mnijenjem i širi štetne narative na velikoj skali. Izvještaj naglašava potrebu za robusnim mehanizmima detekcije i transparentnim politikama kako bi se suprotstavilo rizicima koje donosi ovakav sadržaj.
Rizici manipulacije i potreba za regulacijom UI generiranog sadržaja
NATO-ov Centar izvrsnosti također upozorava na teškoće u otkrivanju UI generiranog sadržaja. Alati za detekciju UI sadržaja, iako korisni, još uvijek nisu dovoljno pouzdani, osobito kada je riječ o ne-engleskim jezicima ili vizualnom sadržaju. Izvješće poziva na razvoj naprednijih alata za detekciju koji bi mogli bolje identificirati UI-generirani sadržaj i spriječiti njegovo širenje.
NATO-ov Centar izvrsnosti posebno ističe važnost transparentnih politika na društvenim mrežama. Preporučuje se da platforme jasno označe UI generirani sadržaj i potaknu korisnike da prijave neoznačeni sadržaj. Također, izvješće poziva na veći regulatorni nadzor, osobito nad UI modelima otvorenog koda koji mogu biti zloupotrijebljeni u zlonamjerne svrhe.
Kako bi ilustrirali potencijalne opasnosti, autori izvješća proveli su simulirani eksperiment crvenog tima. Eksperiment je pokazao koliko je lako koristiti UI za stvaranje sadržaja koji može utjecati na javno mnijenje i potkopati povjerenje u legitimne izvore informacija. Rezultati su pokazali da UI modeli, čak i oni koji se komercijalno prodaju uz izjave o odgovornoj upotrebi, mogu generirati sadržaj koji je uvjerljiv, ali istovremeno može biti politički ili društveno štetan.
Izvješće također dotiče NATO-ovu politiku prema UI-u i važnost odgovorne upotrebe UI-e u vojnom sektoru. Naglašava potrebu za strogim poštivanjem politika zaštite kako bi se spriječilo generiranje štetnog ili toksičnog sadržaja. Izvješće poziva na daljnji razvoj pravnih okvira i regulatornih standarda koji se bave jedinstvenim izazovima koje predstavljaju komercijalni i UI modeli otvorenoga koda.
S obzirom na te izazove, NATO-ov Centar izvrsnosti zaključuje da je ključno uspostaviti strože regulative i razviti naprednije alate za detekciju kako bi se minimizirale mogućnosti manipulacije pomoću UI. Također, naglašava se važnost međunarodne suradnje u regulaciji i nadzoru UI tehnologije.
Kako tehnologija nastavlja napredovati, stručnjaci upozoravaju da će se izazovi u vezi s UI generiranim sadržajem samo povećavati, što zahtijeva hitne i koordinirane akcije na globalnoj razini.
Izvještaj u cijelosti možete pročitati ovdje.
