A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram recomendações à plataforma digital X, visando coibir a geração de conteúdos sexualizados indevidos pela ferramenta de inteligência artificial Grok. O alerta surge em resposta a denúncias de usuários sobre a produção de deepfakes de caráter sexualizado a partir de imagens reais.
Entre as orientações, está a necessidade de que a empresa crie, em até 30 dias, procedimentos técnicos para identificar, revisar e remover conteúdos sexualizados. As instituições também pedem a suspensão imediata de contas que promovam a criação de imagens de natureza sexual sem consentimento, abrangendo tanto menores quanto adultos.
O documento destaca que o Grok não deve gerar novos conteúdos envolvendo crianças e adolescentes em contextos sexualizados, e deve haver um mecanismo eficaz para que titulares de dados possam denunciar o uso abusivo de suas informações. As recomendações foram fundamentadas em reportagens e testes que revelaram o uso ilegal da ferramenta.
A utilização de deepfakes gera preocupações relacionadas à proteção de dados pessoais e à dignidade humana, afetando especialmente mulheres, crianças e adolescentes. As instituições enfatizam que a responsabilidade sobre a veiculação de conteúdos prejudiciais não recai apenas sobre os usuários, mas também sobre a plataforma que disponibiliza a ferramenta.
Além disso, o Supremo Tribunal Federal (STF) já havia declarado a necessidade de que provedores de internet adotem cuidados para prevenir a disseminação de conteúdos que violem direitos constitucionais. A política de autorregulação do X já proíbe a publicação de material sexual sem consentimento, tornando insustentável a falta de filtros rigorosos na ferramenta Grok.
Se as recomendações não forem seguidas ou implementadas de forma inadequada, as instituições poderão adotar medidas administrativas e judiciais para garantir a proteção dos cidadãos, em especial das populações mais vulneráveis.