Governo cobra do X medidas para impedir deepfakes sexuais feitas pelo Grok

A ferramenta de inteligência artificial (IA) Grok, da rede social X, foi recomendada pelo Ministério Público Federal (MPF) a impedir a sexualização utilizando imagens de pessoas reais, na terça-feira (20), fenômeno denominado de deepfakes sexuais na plataforma do antigo Twitter. As recomendações, feitas pelo MPF em conjunto à Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça e Segurança Pública, foram enviadas à empresa controladora da plataforma, do empresário Elon Musk.

📲 Siga o canal de notícias do Paranaíba Mais no WhatsApp

Denúncias revelam deepfakes sexuais feitas pelo Grok sem consentimento

Segundo a ANPD, a medida foi tomada em razão das denúncias relacionadas ao uso do Grok para gerar conteúdos de caráter sexualizado com a imagem de pessoas reais. “[O assistente de IA] tem sido utilizado por usuários para produzir ilegalmente deepfakes sexualizadas, eróticas e com conotação pornográfica de mulheres e de crianças e adolescentes reais”, informou a agência.

As três instituições também explicaram que a gravidade dos fatos pode impactar a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, em especial de mulheres, crianças e adolescentes.

As recomendações da ANPD, MPF e Senacon pedem que sejam implementadas, de forma imediata, medidas que impeçam o Grok de gerar imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados, ou que representem pessoas maiores de idade identificadas ou identificáveis nesses mesmos contextos, sem sua autorização.

Veja as demais recomendações à empresa:

• Criar, no prazo máximo de 30 dias, procedimentos para identificar e excluir conteúdo desse tipo já publicados, quando gerados pelo Grok a partir de comandos feitos por usuários.
• A suspensão imediata das contas envolvidas na produção, via Grok, de imagens sexuais ou erotizadas tanto de crianças e adolescentes, quanto de maiores de idade sem sua autorização;
• Implementar mecanismo para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, assegurando resposta adequada e em prazo razoável.
• Elaborar relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok.

Caso as medidas não sejam acatadas pela empresa, as instituições informaram que outras medidas poderão ser consideradas e adotadas, para garantir a proteção adequada aos cidadãos do país.