Moderní technologie mohou být v běžném životě velmi užitečné, ale jejich využívání má i svá úskalí. Deepfake pornografie je jedním z palčivých trendů současnosti, rozdmýchala se tak veřejná diskuze o potřebě reagovat na její následky. Umělá inteligence je dynamickým odvětvím, ve kterém jde vývoj neustále kupředu. To se ale nedá říci o legislativě, která v současnosti není schopná efektivně postihovat pachatele a chránit oběti. Řeč tedy bude o moderní technologii deepfake ve spojitosti s tvorbou nekonsenzuálních pornografických materiálů.
Technologie deepfake s sebou nese velké riziko. Jde v podstatě o digitální padělek, který je vytvořen pomocí umělé inteligence. Deepfake však nevytváří jen zcela nový obsah, ale dokáže manipulovat s existujícími materiály. Ty mohou být použity pro neetické cíle a tato činnost spadá do oblasti kybernetické kriminality. Již první veřejná deepfake videa byla spojována s pornografií. V listopadu 2017 se na síti Reddit objevila pornografická videa, na kterých za pomocí umělé inteligence byly zaměněny původní tváře za obličeje celebrit. Aplikace, které tyto techniky umožňují, jsou přitom dostupné online. A je až zarážející, jak jednoduše lze na podobné technologie narazit v běžném vyhledávači.
Češi tápou ve znalostech týkajících se moderních technologií
Česká společnost je ohrožená technologií deepfake o to více, že jen její menší část ví, o co se jedná. Agentura Median provedla průzkum pro Středoevropskou observatoř digitálních médií, ze které vyplývá, že Češi nerozumí principům fungování umělé inteligence. To je ale důležité pro dodržování bezpečnosti na internetu a rozeznávání pravdivých informací od lživých. V dotazníku byli respondenti tázáni na povědomí o deepfake technologii, polovina rovnou odpověděla, že neví o co se jedná, pětina odpověděla špatně. Zároveň však více než třetina dotazovaných přiznává, že se s tímto trendem na internetu setkali.
Až slavné tváře upoutaly pozornost
Původně bylo nejvíce pozornosti věnováno deepfake videím, která se dotýkala oblasti politiky a manipulovala s voliči. A tak se lehce přehlédl mnohem větší problém spojující tuto technologii s pořizováním a šířením pornografického materiálu. Populární americká zpěvačka Taylor Swift je symbolem tohoto přerodu. Původně ve falešném videu vyjadřovala podporu Donaldu Trumpovi, následně vystupovala v erotických videích vytvořených umělou inteligencí. Britská stanice Channel 4 začátkem roku zveřejnila svá zjištění, že na pěti nejnavštěvovanějších webech s deepfake pornografií jsou ke shlédnutí videa až se čtyřmi tisíci celebritami. Dominantně jde o ženy. A to je další rozměr této problematiky.
The New York Times zveřejnil alarmující data plynoucí z výzkumu společnosti Home Security Heroes. Ta ukazují, že 98 % deepfake videí na internetu je pornografických a v 98 % jsou obětmi ženy a dívky, nezřídka i nezletilé. Možnost upravovat snímky je tu už dlouho, problém je v tom, že dnešní umělá inteligence dokáže vytvořit materiály, které jsou téměř nerozeznatelné od skutečných předloh. Odborníci poukazují na skutečnost, že pokud má člověk k dispozici kvalitní fotografii obličeje své oběti, zvládne vytvořit minutové pornografické video do třiceti minut. Ta se pak často šíří internetem. Existují dokonce erotické stránky zaměřené pouze na deepfake pornografii, obsah bývá nekonsenzuální a často se za jeho šířením skrývá pomsta či touha oběť ponížit.
Oběti, které se rozhodnout bojovat, se ale často nemají na koho obrátit. Neexistují totiž zákony, které by se vztahovaly přímo k výrobě deepfake pornografického materiálu. Dosavadní právní rámec není dostačující a tato situace se netýká jen České republiky. Legislativní oblast nedokáže na tento trend reagovat dostatečně rychle. Oběti popisují „průmysl založený na základě porušování souhlasu“. Beztrestnost navíc odráží následný postoj k ponižování zneužitých lidí. Jeden z průzkumů ukázal, že až tři čtvrtiny dotazovaný, kteří vyhledávají deepfake pornografii, se necítí provinile. Jedná se o aktuální trend, o kterém by se měli zákonodárci dozvědět více a vytvořit vhodnou legislativu, která by chránila oběti. Zatímco poškození často přemýšlí o sebevraždě a traumatizující následky si nesou celý život, ti, kteří tento materiál vytvářejí a rozšiřují, jsou velmi špatně postižitelní.
Nelehká cesta obětí za spravedlností
Naprosto nedostatečné případy potrestání viníků jsou známé v České republice i zahraničí. Sophie Parrish narazila na své falešné nahé snímky kolující po internetu. Popisuje, jak moc zle jí z toho bylo, následně se ale rozhodla vše nahlásit na policii. Vyšetřovatelé dokonce pachatele zatkli, ten se však podle tehdejší legislativy proti ničemu neprovinil a proto byl následně propuštěn. Případ vzbudil vlnu emocí a aktivisté začali volat po řešení, které by kriminalizovalo vytváření a šíření falešného pornografického materiálu bez souhlasu osoby, která je takto choulostivě vyobrazována.
Podobný případ je znám i u nás. Asi nejznámější je příběh české influencerky Sophie Šarlákové. Ta našla jednoho dne ve schránce svou falešnou nahou fotografii, incident řešila s policií. Od ní se ale dozvěděla, že se pravděpodobně jedná jen o přestupek. Celou situaci značně komplikuje, že policie připouští, že podobná oznámení od poškozených se násobí a zároveň dodává, že má svázané ruce. Specifický zákon týkající se deepfake pornografie zatím neexistuje, je možné aplikovat některé ze současných zákonů a právních předpisů. Oběti tak u nás mohou žalovat viníka z pomluvy či třeba porušení soukromí. Obvykle se však případy vyhodnotí pouze jako občanskoprávní spor, což je vzhledem ke zhoršující se situaci naprosto paradoxní výsledek, který rozhodně nezaručuje spravedlnost a zadostiučinění.
Zdá se, že alarmující situace podložená tvrdými daty, donutila politiky jednat. Ministerstvo spravedlnosti navrhuje právní zakotvení nového trestného činu. Má to být reakce na technologický pokrok, speciálně se týkající pořizování a šíření deepfake pornografického materiálu bez souhlasu, a to za jakýmkoli účelem. Přesným definováním skutkové podstaty bude možné lépe chránit oběti, jejich cesta za dosažením spravedlnosti by měla být na základě této změny jednodušší než doposud.
Neradujme se však předčasně. Odborníci upozorňují na podfinancování vyšetřování kyberkriminality, která je na vzestupu. Uplatňování zatím neexistujících zákonů v praxi by mohlo být i po jejich schválení složité. Právníci poukazují hlavně na problematické dokazování naplnění skutkové podstaty trestného činu.
Autor: Anna Fialová
Zdroje:
„Deepfake? Většina Čechů neví, o co jde“ Dostupné na: https://www.novinky.cz/clanek/internet-a-pc-deepfake-vetsina-cechu-nevi-o-co-jde-40464190
„Deepfake porno bude trestné. Za použití svlékací aplikace může hrozit až pět let vězení“ Dostupné na: https://archiv.hn.cz/c1-67308950-deepfake-porno-bude-trestne-za-pouziti-svlekaci-aplikace-muze-hrozit-az-pet-let-vezeni
„Channel 4: Až 4000 celebrit je obětí falešné pornografie vytvořené pomocí AI“ Dostupné na: https://www.ceskenoviny.cz/zpravy/2496190
„Mohou zneužít i vaše fotografie. Deepfakes otevírá debatu o souhlasu a etice. Legislativa však tápe“ Dostupné na: https://www.heroine.cz/spolecnost/deepfakes-enfant-terrible-syntetickych-medii
„Nejen Taylor Swiftová. Deepfake pornografie s celebritami je stále větší problém“ Dostupné na: https://ct24.ceskatelevize.cz/clanek/kultura/nejen-taylor-swiftova-deepfake-pornografie-s-celebritami-je-stale-vetsi-problem-347491
Smith, H., Katherine Mansted, 2020. What’s a deep fake?. In: Weaponised deep fakes. Australian Strategic Policy Institute. Dostupné na: https://www.jstor.org/stable/resrep25129.6
„The Online Degradation of Women and Girls That We Meet With a Shrug“ Dostupné na: https://www.nytimes.com/2024/03/23/opinion/deepfake-sex-videos.html
Ta naše platforma 
Děkuji za zajímavý článek!
O nedostatečné regulaci síťových digitálních médií se diskutuje už řadu let. Takovéhle incidenty by ovšem neměly upozorňovat pouze alarmující nedostatek zákonů týkajících se kybernetických zločinů, ale také na potřebu jej rychleji vytvářet a schvalovat. Umělá inteligence se na základě milionů dat zlepšuje (doslova) každým dnem a i když se jistě nemusíme bát nástupu artificial general intelligence (stroje či bytosti, jež soupeří s lidskými schopnostmi učit se, chápat v kontextu a být kreativní), není přípustné, aby byla takto narušována práva a soukromí kohokoli, ale nedostatek „právních důvodů“ viníky potrestat.
To se mi líbíTo se mi líbí
Přínosným prvkem by mohlo být také vyvinutí technologie na možné rozeznávání vygenerovaných videí, díky čemuž by bylo na první pohled jasné, zda se jedná o deepfake či nikoli.
To se mi líbíTo se mi líbí
Téma deepfake pornografie je hodně aktuální, v poslední době jsem o něm slyšel hned několikrát. Pravda, že nejvíce ve spojitosti s celebritami, hlavně Taylor Swift. Evidentně se ale dotýká převážně neznámých žen. Autorka shrnuje současný stav dopadů moderní technologie deepfake, uvádí příklady z České republiky i ze zahraničí a dokresluje je přehledem legislativy, která je evidentně absolutně nedostatečná až dochází k zarážejícím situacím, jak je v textu ostatně uvedeno. Vnímám mnoho kladů, kterými umělá inteligence disponuje a které mohou celou společnost posouvat dál. V případě tohoto jevu jde ale zjevně jen o zneužití technologie k šikaně a ponížení skutečných lidí. Neexistuje žádná pozitivní motivace. Doufám, že se situace po právní stránce v co nejkratší době zlepší. Nemyslím si ale bohužel, že by obor práva mohl dosahovat podobné dynamiky jako vývoj moderních technologií a reagovat tak včas.
To se mi líbíTo se mi líbí
Zajímalo by mě, jak by měla vypadat ideální legislativa v této oblasti a jak by měl být definován trestný čin spojený s vytvářením a šířením deepfake pornografie. Znepokojilo mě, že deepfake videa se často zaměřují na ženy a dívky, což naznačuje genderově specifický charakter tohoto problému. Zároveň je alarmující, že zatímco oběti čelí závažným důsledkům, jako je trauma a poškození psychického zdraví, ovšem pachatelé často unikají trestu nebo jsou potrestáni jen mírně. Děkuji za zajímavý a přínosný článek!
To se mi líbíTo se mi líbí
Tento článek vyzdvihuje velice důležitou problematiku, a to nejen problematiku deepfake videí, ale především neschopnost současného právního systému rychle reagovat na současné dění a tvořit legislativu, která stíhá držet krok s dobou. Diskuze o legislativních návrzích a trestech vede k zamýšlení nad tím, jak by právní systém měl adekvátně reagovat na takové technologické hrozby. Při srovnání s přístupy k jiným trestným činům, jako je držení konopí, se ukazuje disproporce v trestání a zjevná potřeba přehodnotit právní reakce ve vztahu k závažnosti činu. Změna musí přijít nejen ve formě nových zákonů, ale i v celkovém pochopení a vědomí veřejnosti o těchto problémech. Vytváření a šíření deepfake materiálů, zvláště pornografického obsahu, má destruktivní dopady na oběti a odráží hlubší problémy související s ochranou soukromí v digitálním věku.
To se mi líbíTo se mi líbí