O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) solicitaram, na última quarta-feira (11/2), que a rede social X, antigo Twitter, implemente medidas contra a produção de conteúdo sexual de crianças e adolescentes pela inteligência artificial da plataforma, Grok. A determinação ocorre após denúncias relacionadas ao uso da IA para gerar, de forma ilegal, deepfakes com conotação pornográfica de mulheres, crianças e adolescentes reais.
Em atuação coordenada, as três instituições expediram recomendações conjuntas à plataforma no dia 20 de janeiro, solicitando a implementação imediata de medidas que impedissem a inteligência artificial de produzir novas imagens sexuais.
Também recomendaram a criação, em no máximo 30 dias, de procedimentos para identificar, revisar e remover os conteúdos que já tenham sido produzidos e ainda estejam disponíveis na plataforma. Além da suspensão das contas envolvidas na produção de deepfakes; a implementação de mecanismos de transparência para o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais; e a elaboração de relatórios de impacto à proteção de dados pessoais específico para as atividades de geração de deepfakes.
Em resposta às solicitações, a plataforma afirmou ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. Na avaliação das instituições, as informações prestadas “não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade”. Os órgãos ainda indicaram a “persistência das falhas, com a continuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas”.
Em nota, a ANPD e a Senacon determinaram que a plataforma “implemente, de forma imediata, medidas aptas a impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento”. O MPF ordenou que o X “forneça relatórios mensais”, a partir de fevereiro, indicando o número de postagens nocivas que foram derrubadas e o número de contas suspensas envolvidas na prática.
Caso os relatórios não sejam apresentados no prazo, a empresa poderá responder pelo crime de desobediência, podendo ser alvo de investigações e ação judicial.
O MPF ainda declarou que a resposta do X às recomendações “não foi transparente em relação às medidas que alega que teriam sido adotadas em face dos ilícitos noticiados, e se limitou a fazer referência a informações ora genéricas, ora que não diziam respeito especificamente ao incidente ocorrido neste ano com o Grok”.
A ANPD expediu uma medida preventiva determinando que X “aprimore e implemente, de forma imediata, medidas técnicas e organizacionais destinadas a impedir que a ferramenta de inteligência artificial Grok gere conteúdos que representem crianças e adolescentes, ou pessoas maiores de idade identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem autorização”.
A organização tem o prazo de cinco dias úteis para comprovar o cumprimento da determinação e enviar os documentos que comprovam a eficácia das medidas adotadas. Se a medida preventiva não for cumprida no prazo determinado, a organização poderá ser obrigada ao cumprimento de medidas mais severas, como a imposição de multa diária. Além da instauração de um processo administrativo.