Mais mulheres e meninas serão protegidas contra abusos falsos, pois novas leis irão proibir ‘nudification. tools – que usam IA gerativa para transformar imagens de pessoas reais em imagens nuas e vídeos falsos sem a permissão deles. Como parte da estratégia do governo para combater a violência contra mulheres e meninas ( VAWG ), os ministros comprometeram- se a tornar impossível para as crianças do Reino Unido tirar, compartilhar ou visualizar uma imagem nua usando seus telefones. O governo vai unir forças com empresas tecnológicas para que possamos trabalhar juntos para fazer disso uma realidade e proteger melhor os jovens de acolhimento, extorsão, bullying, assédio e abuso sexual. Pesquisa encontrada 276,149 Deepfakes sexuais em um único site dedicado em 2023, com 96% representando mulheres. Mundialmente, 24 milhões de pessoas visitaram os serviços ‘nudification ї em setembro 2023 sozinho e 9 em 10 relatórios para a Fundação Internet Watch sobre abuso sexual de crianças online contêm infelizmente imagens tiradas pelas próprias crianças, muitas vezes coagidas por predadores e com consequências potencialmente devastadoras.
Em 13 anos de idade, Roxy Longworth, fundadora da campanha por trás de Nossas telas, foi coagida a enviar imagens íntimas, que foram então compartilhadas sem o consentimento dela. Ela enfrentou uma humilhação generalizada, bullying e uma grave crise de saúde mental. Sua história mostra quão rapidamente o abuso baseado em imagens pode aumentar e por que proteçãos fortes são urgentes. Evitar o dano de acontecer em primeiro lugar é a chave. Para proteger mais jovens como o Roxy, o governo irá trabalhar com empresas tecnológicas para desenvolver soluções para abuso baseado em imagens, expandindo a tecnologia já implementada pela empresa britânica de tecnologia de segurança Safe To Net, e filtros de detecção de nudez já em smartphones. O ministro da Proteção e Violência contra Mulheres e Meninas, Jess Phillips, disse:.
Devemos impedir que essas imagens sejam criadas e compartilhadas enquanto abordamos as causas raiz de influências negativas sobre os jovens nas suas escolas, casas e online. É por isso que vamos unir forças com empresas tecnológicas para parar predadores online e impedir que a próxima geração seja explorada por extorsão e abuso sexuais. ‘Nudification. apps não são usados para brincadeiras inofensivas. Eles devastam as vidas dos jovens, e nós vamos garantir que aqueles que os criam ou fornecem enfrentam consequências reais. Cada criança merece crescer segura, e faremos o que for preciso para fazer disso uma realidade. A criação e fornecimento de aplicativos ou ferramentas chamados ‘nudification. que geram imagens nuas de fundofake de pessoas reais também serão banidos, sob planos anunciados hoje, construindo- se sobre os crimes que criminalizam a partilha dessas imagens profundamente prejudiciais. A nova legislação permitirá que a polícia alveje as empresas e os indivíduos que projetam e fornecem essas ferramentas.
Preocupantemente, estes aplicativos permitem que os usuários tirem roupas e produzam vídeos íntimas sem o consentimento daqueles representados – com consequências devastadoras e duradouras para as vítimas. Altamente realista, esta tecnologia levou a um flagelo de extorsão sexual por motivos financeiros e até mesmo suicídio em alguns casos. Na Espanha, a cidade de Almendralejo foi devastada depois que vários autores usaram estes aplicativos para criar imagens nuas de 20 crianças que vão para a escola. O governo já legisla para criminalizar a criação de mentiras sexuais não consensuais, garantindo que os infratores sejam punidos por este atroz dano. A secretária de Tecnologia Liz Kendall disse. Mulheres e meninas merecem estar seguras online, bem como offline. Não ficaremos aguentados enquanto a tecnologia for armada para abusá- la, humilhar e explorá- la através da criação de deepfakes sexualmente explícitos não- consensuais.
Estou introduzindo um novo delito para proibir as ferramentas de nudificação, para que aqueles que se beneficiam delas ou possibilitam o seu uso, sintam a força plena da lei – para que juntos acabemos com este abuso de mulheres e meninas. Nossa prioridade é proteger as vítimas e garantir que a internet seja um lugar mais seguro para mulheres e meninas.
Com o governo, empresas tecnológicas e toda a sociedade comprometida com esta causa – podemos mudar a maré sobre o torrente de material de abuso sexual infantil atualmente inundando a internet. Parar a imagem de ser compartilhada em primeiro lugar irá parar a extorsão sexual por motivos financeiros malignos e pedófilos liga modelos de negócios em suas faixas. Os dados mais recentes da Fundação Internet Watch mostram como ferramentas e aplicativos como estes estão sendo cada vez mais usados ano após ano.
Relatório Remover, que é executado pela Fundação Internet Watch e Childline gravado que entre janeiro e setembro deste ano, 19% de repórteres afirmaram que algumas ou todas as suas imagens foram manipuladas de alguma forma usando IA. Nós vamos implementar o poder total do estado na maior repressão contra a violência perpetrada contra mulheres e meninas na história britânica. Devemos parar a violência antes de começar, focando- nos na prevenção e abordando as causas raiz de influências negativas sobre os homens jovens em suas escolas, lares e online.
Fundador da campanha por trás das nossas telas, Roxy Longworth, disse. Se os controles do dispositivo como este existiam quando eu estava 13 Minha vida teria sido completamente diferente. Eu não teria sido coagido, chantageado, abusado e teria sido salvo da humilhação devastadora e da crise de saúde mental que se seguiu. É tão importante que a tecnologia é usada para proteger os jovens, não para prejudicá-los. Também estou aliviado de ver os aplicativos de nudificação sendo banidos e que o governo está tomando medidas para proteger a próxima geração de novas ameaças tecnológicas.
Chefe de Executivo do IWF, Kerry Smith disse. Num momento em que as crianças estão enfrentando novos danos e desafios online sem precedentes, estamos satisfeitos em ver o compromisso de trazer proteção no dispositivo. Os mecanismos de segurança para proteger as crianças de imagens nuas não solicitadas, e de ser coagidos para enviar material sexualmente explícito é um passo importante – devemos agora ver estas medidas tornadas obrigatórias e aplicadas em todo o lado.
Também estamos contentes por ver passos concretos para banir estes chamados aplicativos de nudificação que não têm razões para existir como um produto. Isto não é uma ameaça abstrata. Aplicativos como este colocam crianças reais em risco de danos ainda maior, e vemos as imagens produzidas sendo colhidas em alguns dos cantos mais escuros da internet. É crucial que quaisquer intervenções sejam implementadas em consulta com especialistas em desenvolvimento infantil para garantir que as crianças e as vítimas permaneçam no centro da resposta, e esperamos desempenhar o nosso papel para fazer com que estas medidas sejam um sucesso.