Egyre komolyabb veszélyt jelent, mégsem lépnek fel komolyabban a Big Tech cégek a generatív algoritmusok által generált deepfake videók terjedése ellen. A deepfake szoftverek és szolgáltatások webes terjedését megállítani hivatott törvényi szabályozás nyugaton még várat magára. Eközben a Google, az Amazon vagy éppen a Microsoft még profitál is a digitálisan manipulált videókból és készítőikből.
Az egyik legkomolyabb ilyen problémát a Deepfake pornográf tartalmak terjedése jelenti – írta meg a Bloomberg. Az elmúlt négy évben kilencszeresére nőttek a nem-beleegyezéses alapon készített felnőtt tartalmak az Interneten. A mára már egy egyszerű online felületen keresztül elkészíthető applikáció segítségével szinte bárki elkészíthet egy pornófilm főhősének az arcára montírozott videót. Mintegy 150 ezer ilyen jellegű videó az év első öt hónapjában összesen 3,8 milliárd letöltést produkált. Elég csak rákeresni Emma Wattson vagy Taylor Swift nevére és látható, hogy ezek jelentős része a nagy nyugati tech cégek szerverein elérhető.
A darkweben akár szolgáltatásként is igénybe vehető a Deepfake, ahol az ezzel foglalkozó bűnözők – megfelelő díjazásért – a célszemélyt lemeztelenítve jelenítik meg egy-egy ilyen felnőtt videóban. Az ilyen manipulált tartalmak azonban már nem feltétlenül kerülnek nyilvánosságra, hiszen a cél itt már a zsarolás egyik formájaként felhasználható tartalom létrehozása. A technológia fejlesztőinek azonban nem feltétlenül álságosak a szándékaik. A generatív AI és a filmkészítés találkozásának köszönhetjük az Indiana Jones legújabb részének 30 évvel fiatalabb Harrison Fordját. De Luke Skywalker megjelenését is a Mandalóri második szezonjának fináléjában, tehát a technológia megfelelő kezekben akár egy remek eszköz is lehet már rég elhunyt színészek felelevenítésében is.
Annyi biztos, hogy a generatív AI törvényi szabályozását illetően Kína jóval az Európai Unió és az Egyesült Államok előtt jár. Erről szolgált bizonyítékokat nemrég egy, a Nature-ben megjelent tanulmány. A dokumentum megjegyzi: a kínai megoldás az online szabadságjogok egy részének feladásával jár. De csírájában fojtja el az akár a társadalmi rendre is veszélyesnek tartott deepfake videók terjedését. A 2022 januárja óta hatályos szabályozás nem csak az algoritmikusan előállított videós, de szöveges és grafikus tartalmak előállítását és online terjesztését is szigorúan szabályozza.
Egyesével kérvényezni?
A nyugat-európai országokban, illetve az Egyesült Államokban még más a helyzet. Amerikában, ahol az elmúlt hónapokban számos komoly deepfake pornó botrány tört ki, „futnak az események után”. Nagy megbotránkozást okozott, amikor a Twitch streamer Brandon “Atrioc” Ewing vallotta be, hogy a valóságban is barátainak mondott női streamer kollégáinak a deepfake felnőtt videóit nézi. Aztán – felesége sírása közepette – élő videóban kért bocsánatot és jelentette be, hogy 60 ezer dollárral segíti a deepfake pornó ellen küzdő női streamerek jogi harcát.
Az külön is meghökkentőnek bizonyult, hogy az ilyen jellegű tartalmak terjesztéséhez és előállításához szükséges eszközök javarészt a Google, az Amazon, az X és a Microsoft szerverein is hozzáférhetők. Sőt: a nagy tech cégek komoly hasznot húznak az így generált forgalomból.
A témával foglalkozó jogvédő szervezetek, ügyvédek és maguk az áldozatok is rámutatnak, mennyire álságos e cégek viselkedése. E szolgáltatók meglehetősen komoly apparátussal rendelkeznek az általuk kiszolgált ügyfelek védelmére. Minden egyes Deepfake pornó videó eltávolítását, az áldozatnak, egyesével kell kérvényeznie az adott szolgáltatótól. Erre a Digital Millennium Copyright Act biztosít jogi alapot. A kérdéses tartalom eltávolíttatása azonban hosszadalmas és drága mulatság. Arról nem is beszélve, hogy az érintettek azáltal is komolyan sérülnek, amikor egy-egy felnőtt videóban saját arcmásukkal szembesülnek.
A Google nyakig benne van
A legtöbb szakértő szerint az iparági szereplőknek jóval komolyabban kellene venni a felelősségüket. A Bloomberg riportjából az is kiderült, hogy ennek maszatolása nem véletlen. A Top 20 Deepfake felnőtt videókat publikáló website forgalma 2020 és 2023 között majdnem 300 százalékkal nőtt. És a növekedés motorja a Google volt.
2023 júliusában a világ vezető keresőmotorja mintegy 2.480.000 látogatót szállított a deepfake oldalak legnépszerűbbjének a Mrdeepfakes.com oldalaira. Összesen pedig mintegy 25,2 millió organikus látogatót terelt a Top5 ilyen jellegű oldal linkjeire. Nemcsak az ilyen tartalmak terjesztésében, de az előállításukhoz szükséges eszközök piacra dobásában is anyagilag érdekeltek az említett nagy cégek. A legtöbb efféle tartalom és eszköz a Cloudfare szerverein fut, ahol a top 20 deepfake pornó siteból 13-at hosztolnak, háromnak pedig az Amazon Web Services ad otthont.
Itt az ideje firtatni
A kutatók szerint a technológia elemi hozzáférhetősége miatt a legegyszerűbb az lenne, ha mind a törvényhozók, mind a szolgáltatók kriminalizálnák az ilyen formában előállított tartalmakat. Ha e szolgáltatók teljes mértékben kizárnák azokat, akik ilyesmire használják a technológiát. Ahogy Hany Farid, a Berkeley Egyetem témával foglalkozó jogász professzora mondta:
“Igenis, itt az ideje, hogy elkezdjük firtatni az ilyen technológiákat fejlesztő cégek felelősségét az első sorban.”
A már említett Mrdeepfakes.com a DeepFaceLab AI megoldását javasolja felhasználóinak a siteon publikálandó tartalmak előállításához. Az applikáció a Microsoft által birtokolt GitHubról érhető el és a felhő alapú szolgáltatásaik is a Github szerverein futnak. A mintegy húszezer csillagot összegyűjtő alkalmazás deepfake-kel foglalkozó részei azonban a Bloomberg érdeklődését követően eltűntek a Githubról.
A Microsoft állítja: proaktív
A pornográf típusú tartalmak nem megengedettek a webhelyen. A szabályozás megsértőit felszólították a szabályellenes tartalmak eltávolítására, akik ennek a kérésnek eleget is tettek. A Microsoft állítja: proaktívan figyeli az ilyen jellegű tartalmakat. Amennyiben bejelentés érkezik hozzájuk a szolgáltatási feltételek megsértésével kapcsolatban, mindenképpen vizsgálatot kezdeményeznek az ügyben.
Ahogy Carrie Goldberg – aki leginkább a nem beleegyezéses alapon készült deepfake ipar áldozatain segít a törvény előtt megvédeni magukat – szintén egyetért abban, hogy a legnagyobb felelősségük az ilyen jellegű tartalmak terjesztésében a nagy technológiai platformoknak van.
“Ahogyan a technológia behálózza mindennapjainkat és az életünk szinte minden aspektusára hatással van, egyre kevésbé lehetünk biztosak benne, hogy kit tarthatunk jogi értelemben felelősnek az ilyen jellegű visszaélések esetén.”
