Pedofili používajú umelú inteligenciu na vytváranie detskej pornografie

Výskumníkom viacerých spoločností sa podarilo objaviť na dark webe AI generované obrázky neplnoletých detí.

Odborníkom sa podľa The Washington Post podarilo objaviť tisícky realisticky vyzerajúcich fotografií neplnoletých detí, ale nie skutočných. Zneužívanie AI na tvorbu takéhoto obsahu stavia spoločnosti stojace za vývojom umelých inteligencií do neľahkých situácií. Tie sa síce snažia blokovať tvorbu pedofilných fotografií, lenže na dark webe boli zároveň objavené postupy, ako obísť rôzne formy zabezpečenia. V oveľa väčšej nevýhode sú tvorcovia AI, ktorí dali zdrojové kódy AI na GitHub, vďaka čomu tvorcovia pochybného obsahu vedia ako obísť aplikované formy zabezpečenia. Následne na to vznikajú platené návody a nástroje, za ktoré sú pedofili ochotní si zaplatiť.

Bohužiaľ tieto umelou inteligenciou generované fotografie pedofilného obsahu komplikujú prácu aj polícii, nakoľko existuje šanca, že medzi "deep fake" fotografiami môže existovať aj obrázok reálne zneužívaného dieťaťa. Výskumníci na jednom nemenovanom dark webovom fóre s 3 000 používateľmi vykonali prieskum, kde až 80-percent respondentov uvažovalo nad tým, že použije, alebo už použilo umelú inteligenciu na vytvorenie obsahu s pedofilnou tématikou.

Zároveň sa objavujú správy, podľa ktorých je zákonne táto forma obsahu v takzvanej šedej zóne. Teda laicky povedané - "zákon má krátke ruky", prípadne si nevie poradiť s touto situáciou, nakoľko poškodené neboli reálne deti. Napriek tomu sa ozývajú hlasy, že predsa len by mali byť tvorcovia obsahu potrestaní zákonom, keďže stále falošné obrázky sexualizujú neplnoleté deti, takže stále ide vo svojej podstate o porušovanie zákonov na ochranu detí. Napriek tomu zatiaľ nevznikol takýto precedens.

Problémom je aj to, že fotografie generované umelou inteligenciou sa postupne presúvajú z dark webu aj na sociálne siete.  To by podľa odborníkov mohlo viesť k snahe dekriminalizovať pedofíliu. FBI zároveň rodičov detí vyzýva, aby lepšie dohliadali na to, čo robia na internete, prípadne nastavili rôzne formy zabezpečenia pre ochranu v on-line svete. V Spojených štátoch amerických už vzniká iniciatíva politikov, ktorá chce rýchlo zareagovať na tento problém a postaviť ho do zakázanej činnosti.

Napriek tomu sa už v USA podarilo odsúdiť 22-ročného pedofila na 6 mesiacov väzenia a 10 rokov podmienečne za tvorbu sexuálneho obsahu s pomocou AI. Vďaka AI dokázal vytvoriť expresívne deep fake obrázky 11 žien. K podobnému výsledku sa dopracovali aj v Kanade, kde odsúdili 61-ročného pedofila, za vytváranie nevhodného obsahu s neplnoletými deťmi.

Ako sa zachová súdnictvo na Slovensku v prípade, ak by sa takýto čin odohral tu, je veľkou otázkou.

Zdroj: ArsTechnica,