Oblasti v New Yorku zasegle 12 spletnih strani z deepfake pornografijo

Oblasti v New Yorku so zasegle 12 spletnih strani, ki so objavljale pornografske posnetke, ustvarjene z uporabo umetne inteligence, v katerih so bile brez njihovega soglasja prikazane znane osebnosti, med njimi politiki in igralci, poroča AFP.

Manhattanski okrožni tožilec Alvin Bragg je dejal, da gre po njegovem mnenju za največjo zasego spletnih strani, osredotočenih na nezakonite vsebine s pornografijo, ustvarjeno z umetno inteligenco.

Spletna mesta, med njimi tudi stran z imenom AI Celebs, so objavljala zelo realistične fotografije in videoposnetke, ki so prikazovali ljudi v spolno eksplicitnih situacijah, čeprav v njih dejansko niso sodelovali.

Meja med verodostojnim in ponarejenim je vse bolj zabrisana

Po navedbah tožilstva je bilo na zaseženih spletnih straneh prikazanih približno 1200 žrtev. Gre za tako imenovane deepfake vsebine, pri katerih umetna inteligenca obraz ali druge značilnosti resnične osebe digitalno vstavi oziroma spremeni tako, da je videti, kot da oseba sodeluje v dogodkih, ki se v resnici niso zgodili.

Vsebine brez soglasja so v New Yorku nezakonite

Bragg je poudaril, da newyorška zakonodaja prepoveduje objavo resničnih fotografij in videoposnetkov ljudi, ki prikazujejo spolna dejanja, če so objavljeni brez njihovega dovoljenja. Enaka pravna zaščita velja tudi za vsebine, ki so ustvarjene ali spremenjene z orodji umetne inteligence.

Za mlade so posledice digitalnih spolnih zlorab lahko izjemno hude in dolgoročne

Preiskava se je začela, potem ko je ena od žrtev oblastem prijavila eno od spletnih strani. Tožilstvo za zdaj ni potrdilo, ali je bila v okviru preiskave že izvedena katera od aretacij.

»Naše preiskave spletnih strani z deepfake pornografijo in njihovih ustvarjalcev se šele začenjajo,« je dejal Bragg. Po njegovih besedah je zasega del širših prizadevanj za razgradnjo sistemov, ki omogočajo in spodbujajo kriminalne dejavnosti.

Razmah deepfake pornografije

Primer iz New Yorka prihaja v času hitrega širjenja neprivolitvene pornografije, ustvarjene z umetno inteligenco. Razvoj in dostopnost različnih orodij, med drugim aplikacij, ki z uporabo umetne inteligence ustvarjajo navidezno gole posnetke ljudi, sta omogočila hitro izdelavo takšnih vsebin.

Tarča je lahko vsaka žensk ali otrok, ki ima sliko na spletu

Širjenje tovrstnih vsebin je po svetu vse hitrejše, medtem ko zakonodaja in prizadevanja za njihovo omejevanje pogosto zaostajajo za tehnološkim razvojem.

V Združenih državah so maja letos začela veljati nova pravila, ki od tehnoloških platform zahtevajo odstranjevanje spolnih deepfake vsebin in drugih oblik neprivolitvenih intimnih posnetkov.

Ameriški predsednik Donald Trump je zakon Take It Down Act podpisal lani. Zakon kriminalizira spletno distribuiranje intimnih spolnih vsebin brez soglasja, tudi kadar so bile ustvarjene z uporabo široko dostopnih orodij umetne inteligence.