O Governo do Brasil, por meio da Agência Nacional de Proteção de Dados (ANPD), da Secretaria Nacional do Consumidor (Senacon) e do Ministério Público Federal (MPF), expediu recomendações à empresa controladora da plataforma digital X (antigo Twitter) diante de denúncias envolvendo o uso do Grok, assistente de inteligência artificial integrado à rede social.

 

As recomendações foram motivadas por relatos de usuários e por reportagens da imprensa nacional e internacional que apontam a geração de conteúdos sexualizados a partir de imagens de pessoas reais. De acordo com as denúncias, a ferramenta estaria sendo utilizada de forma irregular para a criação de deepfakes — técnica de inteligência artificial que produz imagens falsas com base em pessoas reais.

 

Segundo as informações apuradas, os conteúdos gerados apresentam caráter sexualizado, erótico ou com conotação pornográfica, envolvendo mulheres, crianças e adolescentes reais. Também foram identificados casos de imagens de mulheres e crianças nuas ou em roupas íntimas, acessíveis a qualquer usuário da plataforma, ampliando os riscos de exposição indevida e de danos às pessoas retratadas.

 

Atuação conjunta dos órgãos

 

Diante da gravidade das denúncias, a ANPD, o MPF e a Senacon atuaram de forma coordenada. As instituições avaliam que os fatos podem afetar simultaneamente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos coletivos e individuais, especialmente de mulheres, crianças e adolescentes.

 

Recomendações à empresa

 

Entre as recomendações emitidas, está a implementação imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados. Também foi recomendada a adoção de mecanismos para evitar a geração de conteúdos sexualizados envolvendo pessoas adultas identificadas ou identificáveis, sem autorização.

 

As instituições ainda recomendaram que a empresa:

 

- Crie, no prazo máximo de 30 dias, procedimentos técnicos e operacionais eficazes para identificar, revisar e remover conteúdos desse tipo que já tenham sido gerados pelo Grok e ainda estejam disponíveis na plataforma;

- Suspenda imediatamente as contas envolvidas na produção, por meio do Grok, de imagens sexuais ou erotizadas de crianças, adolescentes ou adultos sem consentimento;

- Implemente um mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre o uso irregular, abusivo ou ilegal de dados pessoais;

- Elabore um relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de imagens, vídeos ou áudios enviados por usuários ao Grok.

 

Possíveis medidas adicionais

 

As instituições informaram que, caso as recomendações não sejam atendidas ou sejam consideradas insuficientes para reduzir os riscos identificados, outras medidas poderão ser adotadas, tanto na esfera administrativa quanto judicial.

 

As recomendações foram expedidas dentro das competências legais de cada órgão, que seguirão analisando as respostas e as providências eventualmente adotadas pela empresa responsável pela plataforma X.

 

 

Fonte: Oeste Mais