A plataforma X (ex-Twitter) foi condenada pela 6ª Turma Recursal Cível do Tribunal de Justiça do Estado de São Paulo (TJSP) a indenizar em R$ 30 mil uma mulher que teve imagens sexuais suas, feitas com IA, divulgadas na plataforma.
De acordo com o juiz Raphael Ernane Neves, da 2ª Vara do Juizado Especial Cível – Vergueiro, em São Paulo, a vítima comprovou que notificou o X, com a indicação do link do conteúdo e a natureza da violação para que ele fosse removido, o que demorou a ocorrer. “Sem qualquer dúvida, o requerido falhou e permitiu que o conteúdo promovido por algum usuário em atitude vil e desprezível se tornasse público e amplificado”, afirmou o magistrado.
O juiz considerou que a imagem continha conteúdo manifestamente ilegal, cuja ilicitude era perceptível de plano, sem a necessidade de aprofundada análise subjetiva e que deveria ser imediatamente rechaçado. Ao se omitir e não promover a remoção do conteúdo ilegal de forma diligente, o X “demonstrou uma falha grave na prestação de seu serviço, tornando-se corresponsável pelos danos que se perpetuaram enquanto a postagem permaneceu ativa. Sua conduta omissiva contribuiu diretamente para a ampliação do dano, expondo a autora de forma contínua e massificada, em conteúdo altamente vulnerante”.
O dano moral, na primeira instância, havia sido arbitrado em 40 salários-mínimos, correspondente a R$ 56.480, valor requerido pela defesa da vítima. O juiz havia ponderado que a quantia seria razoável e proporcional para compensar o abalo sofrido e desestimular a reiteração de condutas semelhantes que em muito fragilizam quem se vê como vítima da ação de usuários de comportamento desrespeitoso, e que não são punidos pela plataforma X.
O magistrado também concordou que o X deveria fornecer os dados do usuário que postou as fotos sexuais feitas com IA, medida que “é essencial para que a autora possa buscar a responsabilização civil e criminal do autor direto do ilícito, encontrando amparo no art. 22 do Marco Civil da Internet”.
A decisão em segunda instância contra o X
O X recorreu da decisão. O juiz relator do caso na segunda instância, Carlos Alexandre Böttcher, afirmou que “a plataforma, ao lucrar com a disseminação de dados e ferramentas tecnológicas, deve arcar com os ônus de seu uso indevido quando não impede a exposição da intimidade de seus usuários”.
De acordo com ele, a responsabilidade da plataforma deriva da própria facilitação do ilícito pelo ecossistema digital e deve ser aplicado o Código de Defesa do Consumidor no caso. “Permitir que a imagem da recorrida seja manipulada e exposta de forma vexatória, dentro de um ambiente que deveria ser seguro, afronta diretamente os direitos da personalidade e a dignidade da pessoa humana, evidenciando a omissão no controle de danos de sua própria tecnologia”.
“Ao permitir que sua tecnologia produza e veicule conteúdos que abalam a dignidade da vítima, a plataforma facilita a prática de crime que visa à humilhação da mulher”, escreveu o juiz Böttcher.
Mas, embora tenham considerado que a extensão dos danos foi grande e que o X, se não atuou com dolo, agiu pelo menos com culpa grave, os julgadores decidiram reduzir o valor da indenização por danos morais para R$ 30 mil. O argumento foi o de que o novo valor proporcionaria satisfação em justo montante à vítima, sem propiciar-lhe enriquecimento sem causa.
O advogado Douglas Phillips Freitas, que defendeu a vítima, considera a decisão muito importante por vários aspectos. O primeiro deles é por priorizar a aplicação do Código de Defesa do Consumidor em relação às redes sociais. “Muita gente acredita que a internet é terra de ninguém, mas na verdade, muitos crimes e atos ilícitos praticados no ‘mundo real’ podem ser aplicados tranquilamente aos atos realizados na esfera virtual”, afirma. O advogado aponta o fato de que a plataforma pode ser responsabilizada ao não agir com diligência na proteção de seus consumidores na remoção de deepfakes denunciados.
O processo tramita com o número 1029948-82.2024.8.26.0016.”