Autorica: Karla Sabljić
Datum: 16. 01. 2025.
Izvorna objava (arhivirana): Snimka zaslona lažnog videozapisa
Tvrdnja: “Apple daruje novac korisnicima iPhone-a.”
Na platformi Facebook, uoči katoličkog i pravoslavnog Božića, podijeljen je videozapis o lansiranju nove aplikacije pod nazivom Santa’s Mystery. Videozapis ima 35 tisuća pregleda, 74 “lajka” i 3 komentara. Generiran je umjetnom inteligencijom i koristi utjecajne osobe kao što su direktor Apple-a, Tim Cook i voditeljicu HRT-a. Zrinku Grancarić . U videozapisu se pojavljuje i muška osoba koja navodno govori o svom iskustvu i životu nakon korištenja aplikacije. Videozapis je generiran kao promocija aplikacije kroz emisiju “Otvoreno” na HRT-u , kako bi manipulativno naveo ljude da sami isprobaju aplikaciju.
Vlasnici iPhone-a neće dobiti milijun dolara
Na platformi Facebook objavljen je videozapis generiran umjetnom inteligencijom koji promovira aplikaciju pod nazivom Santa’s Mystery kao aplikaciju “od koje se može zaraditi”. Videozapis je napravljen tako da predstavlja isječak iz informativnog programa HRT-a i voditeljicu HRT-a, Zrinku Grancarić, koja govori o svim pogodnostima te aplikacije. Spominje se kako aplikaciju mogu imati samo korisnici iPhone uređaja i kako mogu zaraditi miljun dolara s 95% mogućnosti zarade. Isječak prikazuje izgled aplikacije i radi se o tipu igre na sreću, čime se ljude uvjerava pogrešno i navodi na prijevaru.
U drugom dijelu videozapisa pojavljuje se isječak direktora Apple-a, Tima Cooka, u kojemu govori kako su oni kao tvrtka odlučili nagraditi sve korisnike za Božić i lansirati tu aplikaciju kako bi mogli zaraditi provodeći dane u toplini svog doma. U videozapisu korisnicima se govori kako se ne bi trebali bojati i kako trebaju okušati svoju sreću te provoditi nekoliko sati u danu igrajući tu igricu je im tako raste šansa za pobjedu. Međutim, isječak i prizor preuzeti su s Apple događanja 9. rujna 2024. Godine u kojemu je Tim Cook predstavio novu verziju Apple sata, slušalica i novi iPhone 16, kao i iPhone 16 Pro.
Na kraju videozapisa se također pojavljuje muška osoba, koja navodno priča svoje osobno iskustvo s aplikacijom. Navodi kako mu je aplikacija promijenila život i kako je osigurao stan, auto i ostale pogodnosti za svoju obitelj nakon samo 3 dana.
Santa’s Mystery – aplikacija koja ne nagrađuje ljude
Aplikaciju pod nazivom Santa’s Mistery nije moguće pronaći u Appstore-u, jer aplikacija pod tim nazivom ni ne postoji. Pod tim nazivom pojavljuje se jedino aplikacija na Google Play store-u no prema opisu, cilj igre je kontrolirati Djeda Božićnjaka i sakupljati darove ispunjavajući zadatke s popisa, a ne putem igre na sreću dobiti nagradu.
Prema Australian Costumer Satisfaction Unity, u Australiji se pojavila sasvim ista situacija. Spominju kako su “prevaranti” izmislili podršku Appleovog direktora i reklamirali navodnu vjerojatnost pobjede od 95%, hvaleći se nagradnim fondom od milijardu dolara. Također spominju kako aplikacija mami korisnike obećanjima o većim izgledima za dobitak ako igraju satima. Podupiru svoje tvrdnje lažnim pričama o uspjehu, koje uključuje izmišljene profile pobjednika iz Kanade, a svi su izrađeni pomoću umjetne inteligencije. Govore kako je aplikacija zamka i pozivaju ljude da paze kakve aplikacije preuzimaju.
Prepoznavanje videozapisa generiranog pomoću AI
Iako na prvi pogled videozapis izgleda uvjerljivo, DU-CHECK upozorava na elemente koji dokazuju da je videozapis generiran pomoću umjetne inteligencije. Jedan od najočitijih znakova videozapisa generiranog pomoću umjetne inteligencije je sinkronizacija pokreta usana i sinteza glasa.
U videozapisima kao što su deepfakeovi, pokreti usana možda neće uvijek biti savršeno usklađeni s govorom. Bit će moguće primijetiti malo kašnjenje ili neusklađenost između zvuka i pokret usana. Usne se mogu pomicati čak i previše točno, stvaraju dojam savršene točnosti, dok pravi ljudski govor uključuje nepravilnosti i stanke. U analiziranom videozapisu riječ je o audio deepfake tehnologiji. Moguće je primijetiti zube koji se čine nedosljednima u obliku, postoji nedostatak prirodne dubine u ustima, što ukazuje na sintetiziranu sliku. O takvim deepfake objavama, DU-CHECK je već pisao (1).
Alati za generiranje AI videozapisa
Generirani videozapisi su sve učestaliji, a jedan od modernih AI alata koji se koristi za stvaranje realistične sinkronizacije usana i pokreta lica je DeepFaceLab; koji se najčešće koristi za stvaranje deepfake videozapisa preslikavanjem crta lica jedne osobe na lice druge osobe, ali se često bori s detaljima poput preciznog ocrtavanja usana ili manjih nedostataka po licu.
Alat D-ID također stvara realistične videozapise osoba koje govore, kreirane od izvornih statičnih fotografija te Synthesia koji generira videozapise ljudi koji se u potpunosti temelje na umjetnoj inteligenciji. Ipak, sinkronizacija usana ondje možda neće savršeno odgovarati svim naglascima i intonacijama.
Zaključak
Na platformi Facebook, uoči katoličkog i pravoslavnog Božića, podijeljen je videozapis o lansiranju nove aplikacije pod nazivom Santa’s Mystery. Videozapis ima 35 tisuća pregleda, 74 “lajka” i 3 komentara, generiran je umjetnom inteligencijom i koristi utjecajne osobe kao što su direktor Apple-a, Tim Cook i voditeljicu HRT-a, Zrinku Grancarić.
Primjer videozapisa koji promovira aplikaciju Santa’s Mystery jasno pokazuje kako se umjetna inteligencija (AI) može koristiti za stvaranje uvjerljivih, ali lažnih sadržaja koji manipuliraju korisnicima i dovode do prijevara. Iako se video na prvi pogled čini autentičnim, analiza otkriva brojne znakove koji ukazuju na to da je sadržaj generiran pomoću audio deepfake tehnologije, uključujući neprirodnu sinkronizaciju usana, glatku kožu i izobličene detalje u pozadini.
Osim tehničkih znakova, sadržaj videozapisa također sadrži lažna obećanja o milijunskim nagradama i visokim šansama za dobitak, što je ustaljena praksa prevarantskih aplikacija. Unatoč tome što aplikacija pod nazivom Santa’s Mystery nije zapravo dostupna na Appleovom Appstore-u, lažni videozapis koristi popularnost Apple proizvoda i autoritet poznatih lica kako bi stvorio privid stvarne ponude. Korištenje ove vrste dezinformacija, koja uključuje izmišljene osobne priče o uspjehu, dodatno doprinosi manipulaciji korisnika.
Ovaj slučaj također ukazuje na opasnosti povezane s primjenom umjetne inteligencije u digitalnim medijima. Alati poput DeepFaceLab, D-ID i Synthesia omogućuju stvaranje realističnih videozapisa koji izgledaju poput stvarnih, što otežava prepoznavanje prijevara. Prepoznavanje ovih sadržaja zahtijeva visoku razinu kritičkog razmišljanja, pažljivosti i tehničkog znanja, jer ljudi sve češće postaju žrtve manipulacije putem digitalnih medija.
Zbog toga DU-CHECK ovu tvrdnju ocjenjuje kao netočnu i dodjeljuje joj kategoriju dezinformacija.
