- Rozhodnutie súdu umožňuje legálnu držbu virtuálneho detského pornografického materiálu.
- Technologický pokrok komplikuje ochranu detí pred sexuálnym zneužívaním.
- Prvý dodatok k ústave chráni nebezpečný obsah generovaný umelou inteligenciou.
- Sudcovia vyzývajú na urgentné právne usmernenia pre ochranu detí.
Federálny súd potvrdil rozhodnutie nižšieho súdu, ktorým bolo zamietnuté obvinenie proti mužovi, ktorý podľa vyšetrovateľov vlastnil stovky sexuálne explicitných obrázkov detí vygenerovaných umelou inteligenciou, ktoré sám vytvoril.
Podľa rozhodnutia Siedmeho odvolacieho súdu boli pornografické obrázky vytvorené Stevenom Andreggom z Wisconsinu pomocou „Stable Diffusion, generatívny softvér umelej inteligencie (‚GenAI‘), ktorý mu umožnil vytvárať hyperrealistické obrázky predpubertálnych detí zapojených do sexuálne explicitných činov.“”
Andregg bol obvinený z porušenia federálneho zákona o obscénnosti. Bol obžalovaný z výroby a distribúcie materiálu generovaného umelou inteligenciou, z jeho zdieľania s 15-ročným maloletým chlapcom a z jeho držby. Obvinenie z držby bolo stiahnuté na základe prvého dodatku k ústave, zatiaľ čo ostatné tri obvinenia stále platia.
Zdá sa, že sudcovia Siedmeho obvodného súdu vyniesli svoje rozhodnutie neochotne, pričom konštatovali, že existujúce právne precedensy nezvládli držať krok s rýchlym tempom technologického pokroku, čo umožňuje, aby držba materiálu zobrazujúceho sexuálne zneužívanie detí (CSAM) generovaného umelou inteligenciou zostala zatiaľ legálna.
Sudca Najvyššieho súdu Clarence Thomas už skôr predpovedal, že „technológia sa môže vyvinúť do takej miery, že bude nemožné presadzovať súčasné zákony týkajúce sa detskej pornografie, pretože vláda nebude môcť dokázať, že určité pornografické obrázky zobrazujú skutočné deti.“”
“„Žijeme v dobe, keď modely generatívnej umelej inteligencie (GenAI) dokážu vytvárať obrázky znázorňujúce zneužívanie virtuálnych detí, ktoré sú prakticky nerozoznateľné od tých, ktoré znázorňujú zneužívanie skutočných detí,“ poznamenal sudca John Lee vo svojom stanovisku pre odvolací súd.
ČÍTAJTE: Spoločnosť Microsoft spolupracuje so štátom na porušovaní vašich ľudských práv
„Tento prípad poukazuje na to, ako táto sa vyvíjajúca technológia komplikuje hranice stanovené Najvyšším súdom v prípadoch Stanley, Osborne a Free Speech Coalition. V skutočnosti sa v prípade Free Speech Coalition Najvyšší súd zaoberal rozsahom ochrany podľa Prvého dodatku v súvislosti s virtuálnym CSAM, ale to bolo pred takmer dvadsiatimi piatimi rokmi a technológia generovania obrázkov, ktorá je k dispozícii dnes, bola vtedy pravdepodobne nepredstaviteľná,“ poznamenal Lee. „Vzhľadom na neúprosný pokrok v modeloch umelej inteligencie máme určité obavy ohľadom hraníc, ktoré tieto prípady vytyčujú, ale nemáme možnosť ich sami prekresliť.“
Sudca Lee naliehavo vyzval Najvyšší súd USA, aby sa zaoberal otázkou virtuálneho materiálu zobrazujúceho sexuálne zneužívanie detí.
“„Píšem osobitne, aby som poukázal na to, že vzhľadom na významný pokrok v technológii počítačovo generovaných obrázkov, najmä v oblasti umelej inteligencie, by nám prospeli ďalšie usmernenia od Najvyššieho súdu týkajúce sa prepojenia medzi Prvým dodatkom a virtuálnym materiálom zobrazujúcim sexuálne zneužívanie detí (CSAM), ak by sa vyskytol príslušný prípad,“ napísal Lee.
„[V]láda argumentuje, že v dôsledku technologického pokroku sa obrázky generované umelou inteligenciou stávajú čoraz ťažšie odlíšiteľné od obrázkov zobrazujúcich skutočné deti, čo čoraz viac sťažuje úlohu preukázať, že obrázok zobrazuje skutočné dieťa. Povoľovanie držby virtuálneho CSAM v domácnosti by preto, ako tvrdí, mimoriadne skomplikovalo stíhanie držby skutočného CSAM a mohlo by chrániť páchateľov, ktorí majú v držbe obrázky skutočných detí,” varoval Lee.
Ďalej varoval: „V podobnom duchu sa vláda obáva, že bude nútená vynakladať svoj obmedzený čas a zdroje na hľadanie detí, ktoré neexistujú, na úkor detí, ktoré skutočne existujú.“
„V tomto prípade sú podklady nedostatočné na posúdenie týchto zložitých otázok a, samozrejme, sme viazaní požiadavkami Free Speech Coalition. Je však samozrejmé, že „[p]revencia sexuálneho vykorisťovania a zneužívania detí predstavuje vládny cieľ mimoriadnej dôležitosti.“ Je v stávke veľa a musíme mať na pamäti neustále sa zrýchľujúci pokrok v technológii generovania obrazov,” uzavrel.