Komisionerja për fëmijët në Angli, Dame Rachel de Souza, ka kërkuar ndalimin e menjëhershëm të aplikacioneve të Inteligjencës Artificiale (AI) që mundësojnë krijimin e imazheve seksuale të rreme të fëmijëve, të njohura si “deepfake”.
Kjo kërkesë vjen pas një raporti të ri që tregon se vajzat adoleshente janë gjithnjë e më të shqetësuara për postimin e fotove online për shkak të frikës se ato mund të manipulohen digjitalisht.
Edhe pse krijimi i imazheve eksplicite të fëmijëve është i paligjshëm, vetë aplikacionet që mundësojnë këtë veprim mbeten të ligjshme, një çështje që ka shqetësuar shumë aktivistë dhe ekspertë të sigurisë kibernetike.
Dame Rachel de Souza ka paralajmëruar se përdorimi i teknologjisë për krijimin e “deepfake” po nxit një kulturë të rrezikshme mizogjinie dhe abuzimi seksual.
Ajo ka kërkuar që qeveria të miratojë një ligj të ri për rregullimin e përdorimit të Inteligjencës Artificiale, i cili do të njohë abuzimin seksual me deepfake si një formë dhune ndaj grave dhe vajzave.
Avokatët dhe ekspertët e sigurisë kanë nënvizuar vështirësitë që kanë forcat e rendit në luftën kundër shpërthimit të kësaj teknologjie. Ata pohojnë se numri i adoleshentëve të arrestuar për eksperimente me deepfake është në rritje, duke theksuar nevojën për masa më të forta mbrojtëse.
Aktivistët po kërkojnë që ndryshime të mëtejshme të bëhen në kuadër të Aktit për Sigurinë Online, ndërsa shqetësimet për ndikimin psikologjik që kjo teknologji mund të ketë tek të rinjtë po shtohen.
Një zëdhënës i qeverisë tha se krijimi dhe shpërndarja e materialeve të abuzimit seksual të fëmijëve të gjeneruara nga AI-ja është “e neveritshme dhe e paligjshme”, duke shtuar se janë futur dispozita të reja ligjore në Mbretërinë e Bashkuar për të adresuar këtë çështje.