NATO-ov Centar izvrsnosti za strate\u0161ke komunikacije objavio je 20. kolovoza 2024. izvje\u0161\u0107e koje otkriva alarmantne trendove u kori\u0161tenju umjetne inteligencije (UI) u digitalnom marketingu, upozoravaju\u0107i na rastu\u0107e rizike od manipulacije na dru\u0161tvenim mre\u017eama. Izvje\u0161\u0107e pod naslovom “UI u preciznom uvjeravanju” istra\u017euje kako UI mo\u017ee biti kori\u0161ten ne samo za legitimno ciljanje publike, ve\u0107 i za sofisticirane kampanje koje imaju potencijalno opasne posljedice.<\/p>\n\n\n\n
Prema izvje\u0161\u0107u, napredak u UI tehnologijama, poput generativnih modela GPT, DALL\u00b7E i Midjourney, omogu\u0107io je stvaranje sadr\u017eaja koji je sve te\u017ee razlikovati od onog kojeg stvaraju ljudi. Ovi alati mogu generirati tekstove, slike i videozapise visoke kvalitete, \u0161to otvara vrata za njihovu upotrebu u manipulativne svrhe.<\/p>\n\n\n\n
Izvje\u0161taj isti\u010de nekoliko zna\u010dajnih slu\u010dajeva u kojima je sadr\u017eaj generiran UI-om te je manipulativno kori\u0161ten na dru\u0161tvenim mre\u017eama. Ovi slu\u010dajevi ilustriraju kako se UI mo\u017ee zloupotrijebiti za utjecanje na javno mnijenje i \u0161irenje dezinformacija.<\/p>\n\n\n\n
Primjeri uporabe umjetne inteligencije u manipulativne svrhe<\/strong><\/p>\n\n\n\n Jedan od istaknutih primjera je “Kampanja protiv Ukrajine s pesticidima<\/strong>“, u kojoj je UI generirani sadr\u017eaj kori\u0161ten za la\u017ene tvrdnje da su ukrajinski poljoprivredni proizvodi zaga\u0111eni opasnim pesticidima. Ova kampanja bila je obilje\u017eena ponavljaju\u0107im objavama na Facebooku, gdje su identi\u010dne poruke dijeljene preko razli\u010ditih ra\u010duna. Ove objave sadr\u017eavale su tekst generiran UI-om koji je tvrdio da je ukrajinska p\u0161enica puna toksina. Dosljednost i koordinacija ovih objava na platformama kao \u0161to su Facebook<\/strong>, VKontakte<\/strong> i X <\/strong>sugeriraju namjeran poku\u0161aj manipulacije percepcijom javnosti na velikoj skali. UI generirani sadr\u017eaj nije bio samo uvjerljiv, ve\u0107 i \u0161iroko rasprostranjen, te se pojavljuje na vi\u0161e jezika, \u0161to ukazuje na opse\u017ean doseg i potencijalni utjecaj ove kampanje.<\/p>\n<\/div><\/div>\n\n\n\n Drugi slu\u010daj uklju\u010duje promociju “Kontroverzne web stranice<\/strong>” putem UI generiranog teksta na Facebooku<\/strong>. U ovom slu\u010daju, duplicirane poruke koje podr\u017eavaju prosvjede poljoprivrednika i kritiziraju politi\u010dke koalicije bile su objavljivane u kratkim razmacima, \u0161to ukazuje na automatizaciju i prisutnost botova. Poruke su tako\u0111er spominjale desni\u010darsku austrijsku web stranicu poznatu po \u0161irenju teorija zavjere i dezinformacija. Ovaj primjer nagla\u0161ava kori\u0161tenje UI generiranog sadr\u017eaja za poja\u010davanje kontroverznih narativa i usmjeravanje korisnika na specifi\u010dne stranice koje podr\u017eavaju te narative.<\/p>\n\n\n\n Osim ovih primjera, izvje\u0161taj detaljno opisuje kori\u0161tenje UI generiranih vijesti na TikToku<\/strong>. Stranica pod nazivom “Nachrichten Deutschland<\/strong>” identificirana je kao vjerojatno sadr\u017ei UI generirane vijesti koje pokrivaju teme poput njema\u010dke politike i globalnih pitanja, uklju\u010duju\u0107i rat u Ukrajini i ameri\u010dke izbore. Ovi videozapisi karakterizirani su dosljednim formatom i isporukom, \u0161to dodatno sugerira da su generirani UI-om. Studija ukazuje na to da je prokremaljska TikTok<\/strong> mre\u017ea, sastavljena od 300 kanala, proizvodila sli\u010dan sadr\u017eaj, \u0161to ukazuje na \u0161iru, koordiniranu kampanju manipulacije informacijama na ovoj platformi.<\/p>\n\n\n\n Ovi slu\u010dajevi kolektivno demonstriraju potencijal UI generiranog sadr\u017eaja da olak\u0161a kampanje dezinformacija, manipulira javnim mnijenjem i \u0161iri \u0161tetne narative na velikoj skali. Izvje\u0161taj nagla\u0161ava potrebu za robusnim mehanizmima detekcije i transparentnim politikama kako bi se suprotstavilo rizicima koje donosi ovakav sadr\u017eaj.<\/p>\n\n\n\n Rizici manipulacije i potreba za regulacijom UI generiranog sadr\u017eaja<\/strong><\/p>\n\n\n\n NATO-ov Centar izvrsnosti tako\u0111er upozorava na te\u0161ko\u0107e u otkrivanju UI generiranog sadr\u017eaja. Alati za detekciju UI sadr\u017eaja, iako korisni, jo\u0161 uvijek nisu dovoljno pouzdani, osobito kada je rije\u010d o ne-engleskim jezicima ili vizualnom sadr\u017eaju. Izvje\u0161\u0107e poziva na razvoj naprednijih alata za detekciju koji bi mogli bolje identificirati UI-generirani sadr\u017eaj i sprije\u010diti njegovo \u0161irenje.<\/p>\n<\/div><\/div>\n\n\n\n NATO-ov Centar izvrsnosti posebno isti\u010de va\u017enost transparentnih politika na dru\u0161tvenim mre\u017eama. Preporu\u010duje se da platforme jasno ozna\u010de UI generirani sadr\u017eaj i potaknu korisnike da prijave neozna\u010deni sadr\u017eaj. Tako\u0111er, izvje\u0161\u0107e poziva na ve\u0107i regulatorni nadzor, osobito nad UI modelima otvorenog koda koji mogu biti zloupotrijebljeni u zlonamjerne svrhe.<\/p>\n\n\n\n Kako bi ilustrirali potencijalne opasnosti, autori izvje\u0161\u0107a proveli su simulirani eksperiment crvenog tima. Eksperiment je pokazao koliko je lako koristiti UI za stvaranje sadr\u017eaja koji mo\u017ee utjecati na javno mnijenje i potkopati povjerenje u legitimne izvore informacija. Rezultati su pokazali da UI modeli, \u010dak i oni koji se komercijalno prodaju uz izjave o odgovornoj upotrebi, mogu generirati sadr\u017eaj koji je uvjerljiv, ali istovremeno mo\u017ee biti politi\u010dki ili dru\u0161tveno \u0161tetan.<\/p>\n\n\n\n Izvje\u0161\u0107e tako\u0111er doti\u010de NATO-ovu politiku prema UI-u i va\u017enost odgovorne upotrebe UI-e u vojnom sektoru. Nagla\u0161ava potrebu za strogim po\u0161tivanjem politika za\u0161tite kako bi se sprije\u010dilo generiranje \u0161tetnog ili toksi\u010dnog sadr\u017eaja. Izvje\u0161\u0107e poziva na daljnji razvoj pravnih okvira i regulatornih standarda koji se bave jedinstvenim izazovima koje predstavljaju komercijalni i UI modeli otvorenoga koda.<\/p>\n\n\n\n S obzirom na te izazove, NATO-ov Centar izvrsnosti zaklju\u010duje da je klju\u010dno uspostaviti stro\u017ee regulative i razviti naprednije alate za detekciju kako bi se minimizirale mogu\u0107nosti manipulacije pomo\u0107u UI. Tako\u0111er, nagla\u0161ava se va\u017enost me\u0111unarodne suradnje u regulaciji i nadzoru UI tehnologije.<\/p>\n\n\n\n Kako tehnologija nastavlja napredovati, stru\u010dnjaci upozoravaju da \u0107e se izazovi u vezi s UI generiranim sadr\u017eajem samo pove\u0107avati, \u0161to zahtijeva hitne i koordinirane akcije na globalnoj razini.<\/p>\n\n\n\n