Kako z lažmi zaslužijo milijone

Sodni proces proti glasbenemu mogotcu Seanu »Diddyju« Combsu, ki se na zveznem sodišču v New Yorku sooča z obtožbami spolne trgovine in izsiljevanja, ni zgolj pritegnil pozornosti svetovnih medijev. Postal je gojišče za povsem nov, donosen in skrajno zaskrbljujoč poslovni model – industrijsko proizvodnjo lažnih novic s pomočjo umetne inteligence (UI). Na platformah, kot sta youtube in tiktok, so se kot gobe po dežju namnožili kanali, ki z objavljanjem popolnoma izmišljenih zgodb o sojenju zgrinjajo milijonske oglede in dobičke. Ne gre za osamljene primere, temveč za organiziran sistem, ki tržijo lahkovernost javnosti, ujete v vrtinec enega najodmevnejših sodnih primerov zadnjih let. 

V preiskavi, ki jo je publikacija Indicator objavila v sodelovanju z britanskim časopisom Guardian, so ugotovili, da obstaja obsežno omrežje kanalov na youtubu, ki so se specializirali za to, čemur poznavalci pravijo »vsebinski mulj« (angl. AI slop), ki ga ustvarja umetna inteligenca. Gre za nizkokakovostne, a izjemno učinkovite vsebine, narejene po preprostem in ponavljajočem se kopitu.  Recept je preprost: ustvari se šokanten naslov in privlačna, z umetno inteligenco ustvarjena naslovna sličica, ki lažno povezuje katero od znanih osebnosti s Combsom.

Trditve so bizarne in brez kakršnekoli podlage: »Justin Bieber razkril, kako so ga zlorabljali Will Smith, Diddy in Clive Davis«, »Oprah je na sodišču priznala vse«. Naslovnice pogosto prikazujejo zvezdnike, kako objokani pričajo na sodišču, ali pa so zmontirani v kočljivih položajih s Combsom. Vse skupaj je podkrepljeno z izmišljenimi citati, namenjenimi izključno spodbujanju klika. Kot še piše Guardian, je zgolj 26 takšnih kanalov v zadnjem letu dni z okoli 900 videoposnetki ustvarilo skoraj 70 milijonov ogledov. Iz večine teh kanalov so se stekali tudi prihodki od oglasov, kar pomeni, da je podjetje Youtube služilo skupaj z njimi.

Sodni proces proti Seanu »Diddyju« Combsu je eden najbolj spremljanih v svetu zabavne industrije. FOTO: Brendan Mcdermid Reuters

Posel, donosnejši od marsičesa

Da gre za izjemno dobičkonosno dejavnost, potrjujejo tudi ljudje znotraj industrije. Wanner Aarts, ki upravlja več deset kanalov z avtomatiziranimi vsebinami, je v pogovoru za Guardian pojasnil, da je tovrstna strategija tvegana, a izjemno profitabilna. »Če bi me vprašali, kako čim hitreje zaslužiti 50.000 dolarjev,« je Aarts slikovito pojasnil, »bi bil moj prvi odgovor preprodaja drog, takoj za tem pa verjetno odprtje kanala o Diddyju«. 

Mnogi kanali so čez noč spremenili svojo dejavnost. Kanal Secret Story, ki je prej objavljal življenjske nasvete v vietnamščini, se je popolnoma preusmeril na Diddyja. Hero Story je opustil videoposnetke o vojaškem voditelju Burkine Faso in začel objavljati laži o sojenju. Brazilec, ki si je ustvaril milijonske oglede z videi o vezenju, je prav tako presedlal na Combsa. Še bolj bizaren je primer kanala Pak Gov Update, ki je, kot pove ime, prej objavljal amaterske posnetke o pokojninah v Pakistanu, nato pa začel služiti z lažnimi novicami o Diddyju, pri čemer je kot pričo lažno navajal celo ameriško državno tožilko Pam Bondi.

Ko resnica postane postranska škoda

Te vsebine niso le neresnične, temveč tudi nevarne.  Kot je za ameriško televizijo NewsNation opozorila pravnica in strokovnjakinja za umetno inteligenco Sara Jodka, takšne vsebine namerno zmanjšujejo resnost obtožb in banalizirajo žrtve. »Cilj je zbegati in manipulirati,« pravi. Najbolj skrb vzbuja dejstvo, da bi lahko te laži vplivale na poroto. Čeprav porotniki v sodni dvorani vidijo, kdo dejansko priča, porota v primeru Combs ni izolirana. Kljub navodilom, naj ne spremljajo medijskih vsebin o primeru, obstaja tveganje, da bodo izpostavljeni tem dezinformacijam, kar bi lahko nezavedno vplivalo na njihovo presojo. »Umetna inteligenca naredi napačno informacijo toliko bolj verjetno,« dodaja Jodka za NewsNation. 

Gre za nizkokakovostne, a izjemno učinkovite vsebine, narejene po preprostem in ponavljajočem se kopitu. FOTO: Delo UI

Spletni portal Snopes, znan po preverjanju dejstev, je pod drobnogled vzel enega takšnih videoposnetkov, ki je lažno trdil, da je na sojenju pričala televizijska voditeljica Wendy Williams. Čeprav je videoposnetek vseboval opozorilo, da je vsebina morda izmišljena, se je bliskovito razširil. Analiza je pokazala, da je bil glas v videu z 99-odstotno verjetnostjo ustvarjen z umetno inteligenco, medtem ko so bili vizualni elementi preprosto skrpani iz starih intervjujev in javno dostopnih sodnih skic. 

Avtomatizacija laži za drobiž

Vzpon teh kanalov je posledica dveh trendov na youtubu: tako imenovane »avtomatizacije« in »brezličnih kanalov«. Ideja je, da lahko vsakdo zgradi uspešen posel, če najde pravo tržno nišo in poceni proces ustvarjanja videov. Z orodji, kot so ChatGPT za pisanje scenarijev, Midjourney za ustvarjanje sličic in ElevenLabs za generiranje glasu, je vstopni prag nižji kot kadarkoli prej. »Scenarij ti napiše UI, slike ustvari UI, glas posname UI, za končno montažo pa najameš poceni delovno sili na Filipinih,« je za Guardian pojasnil Aarts. Strošek enega videa je lahko nižji od desetih dolarjev.

Primer velja za enega največjih padcev vplivne osebnosti v novejši zgodovini. FOTO: Jane Rosenberg/Reuters

Iz podjetij Youtube in Tiktok so se na poizvedovanja medijev odzvali z zagotovili, da takšne vsebine odstranjujejo. Dejansko so nekatere kanale zaprli, drugim pa odvzeli možnost monetizacije. A to je zgolj gašenje požara, saj za vsakim odstranjenim kanalom zrastejo trije novi. Sojenje Seanu Combsu je tako postalo študija primera, kako lahko spoj odmevnega dogodka in dostopne tehnologije ustvari popolno nevihto dezinformacij, kjer resnica ni več pomembna. Štejejo le kliki in zaslužek, ki ga prinašajo.