Polícia faz primeira prisão no Japão por imagens falsas de sexo com IA

A polícia de Tóquio fez a primeira prisão no Japão por usar inteligência artificial generativa para criar e vender imagens falsas sexualmente explícitas de celebridades.

Em 16 de outubro, a Polícia Metropolitana disse que Hiroya Yokoi, um funcionário de escritório de 31 anos de Akita, foi preso sob suspeita de produzir e exibir material obsceno, especificamente milhares de imagens falsas de mais de 260 celebridades femininas.

A polícia disse que Yokoi admitiu as acusações.

"A resposta dos espectadores foi enorme e o filme se tornou tão popular que percebi que poderia ganhar muito dinheiro", disse o suspeito, segundo a polícia.

Segundo a polícia, este é o primeiro caso do tipo no Japão.

Entre as vítimas estão mais de 260 personalidades da televisão, atores, ídolos e apresentadores de notícias.

Segundo a polícia, de janeiro a junho deste ano, Yokoi criou e publicou imagens explícitas retratando três celebridades femininas em um site de comunicação online, tornando-as acessíveis a qualquer pessoa.

Yokoi teria dito aos investigadores que iniciou a operação em outubro do ano passado para ganhar dinheiro extra para cobrir despesas de subsistência e pagar empréstimos estudantis depois de ver outros ganhando dinheiro da mesma forma.

AI PORNO COMO TRABALHO PARALELO

A polícia suspeita que Yokoi usou uma conta promocional em uma rede social para direcionar usuários a um site de assinaturas, onde postou aproximadamente 20.000 imagens deepfake. Assinantes podem solicitar imagens personalizadas por uma taxa adicional.

Pelo menos 50 pessoas se inscreveram e, nos 11 meses desde outubro, o programa lhe rendeu cerca de 1,2 milhão de ienes (US$ 8.000), de acordo com fontes investigativas.

Segundo fontes, o suspeito criou as imagens como um "trabalho paralelo".

Ele não tinha treinamento profissional em IA generativa ou tecnologias de informação e comunicação, tendo aprendido sozinho por meio de artigos e vídeos online.

O software gratuito que ele usou se gaba de sua capacidade de "gerar imagens de alta qualidade em segundos".

Yokoi treinou a IA com fotos de celebridades e usou "prompts" de texto específicos para gerar a vasta biblioteca de imagens, disseram as fontes.

TENDÊNCIAS GLOBAIS, LACUNAS LEGAIS

Essa facilidade de uso contribuiu para o aumento global de deepfakes sexuais.

Um estudo realizado por uma empresa de segurança dos EUA identificou 95.820 vídeos deepfake online em 2023, um aumento de 5,5 vezes em relação a quatro anos atrás, 98% dos quais eram de natureza sexual.

Em resposta, os Estados Unidos, a Grã-Bretanha e outros países reforçaram suas regulamentações.

A Coreia do Sul reforçou suas sanções em setembro passado, tornando punível não apenas a criação, mas também a posse e a visualização de deepfakes sexuais.

Mas atualmente o Japão não tem nenhuma lei específica regulando deepfakes sexuais, forçando as autoridades a operar dentro da legislação existente.

As autoridades policiais japonesas enfrentam o grande obstáculo de obter evidências objetivas que provem que uma imagem gerada por IA "possui legalmente" a identidade da pessoa que ela retrata.

A abertura de uma investigação por difamação exige uma denúncia da vítima, que muitas vezes desconhece a existência de imagens deepfake. Quando ela percebe que foi retratada de forma injusta, as imagens já se espalharam amplamente.

“Os criadores podem fazer isso casualmente, mas as vítimas sofrem danos à reputação e podem sofrer danos mentais e financeiros”, disse um investigador japonês. “Precisamos controlar as empresas que abusam da IA generativa.”