O Japão pede que a X tome medidas contra imagens sexualizadas geradas por IA.

Recentemente, a plataforma X observou um aumento no número de publicações geradas por IA contendo imagens de pessoas reais alteradas de forma inadequada. Com dezenas de milhões de usuários no Japão, o governo também exige que a operadora apresente um plano para solucionar o problema e poderá emitir diretrizes com base na Lei de Inteligência Artificial caso não haja melhorias.

"Vamos acelerar as discussões, garantindo ao mesmo tempo a cooperação dos ministérios e agências relevantes", disse o ministro da Estratégia de IA, Kimi Onoda, em uma coletiva de imprensa após uma reunião de gabinete.

Liderada pelo empreendedor americano Elon Musk, a X apresentou no ano passado sua ferramenta de IA generativa "Grok", que permite aos usuários manipular imagens inserindo comandos.

A criação generalizada de imagens sexuais falsas de pessoas reais, através do uso indevido do serviço, levou a investigações sobre pornografia por diversos governos em todo o mundo. Esta é a primeira vez que a resposta do Japão é divulgada.

O pedido mais recente foi feito pelo Gabinete do Governo, responsável pela legislação sobre IA, devido à preocupação com a facilidade com que conteúdo falso pode ser criado e disseminado.

Imagens falsas de pessoas podem infringir seus direitos, como o direito à imagem ou o direito à reputação.

Governos de países como a Grã-Bretanha, o Canadá e a Malásia também indicaram que essa questão é problemática.

Em resposta, a X declarou: "Estamos tomando medidas para remover conteúdo violento de alta prioridade, incluindo pornografia infantil e nudez não consensual."

No ano passado, o governo também solicitou melhorias no gerador de vídeos "Sora" da OpenAI, no que diz respeito à criação de vídeos que se assemelham bastante a desenhos animados japoneses.