O X, de Elon Musk, terá que indenizar uma mulher por ter deixado um deepnude, foto de nudez falsa gerada por inteligência artificial, com sua imagem no ar por mais de dois meses.
“Por causa da decisão favorável em primeira instância, gostaríamos que fosse precedente para esse tipo de situação”, disse a cartunista Heloísa D’Angelo, em conversa com a Folha, na sexta-feira (23). Neste início de ano, uma IA integrada ao X, o Grok, gerou milhões de imagens falsas de mulheres e menores nus ou seminus, de acordo com levantamento do New York Times.
A divulgação de imagens de nudez sem consentimento e para fins de exposição vexatória configura o crime de pornografia de vingança, com pena prevista de 1 a 5 anos. A punição ainda pode ser majorada pelo uso de tecnologia como IA. O X foi responsabilizado civilmente por não agir contra a publicação ilícita.
A plataforma recorre contra o valor da indenização de R$ 56.480 e pede nulidade da petição inicial, alegando a ausência no texto do link a ser removido. O endereço consta de boletim de ocorrência anexo.
O crime contra a cartunista, que é mais conhecida por Helô, ocorreu em setembro de 2024, quando o ministro do STF (Supremo Tribunal Federal) Alexandre de Moraes suspendeu a plataforma no país.
Ela recebeu a informação de que fora alvo de um crime sexual na internet de uma conhecida que vive no exterior, que reportou a ilegalidade ao X, que nada fez. A conta @MA7TER_YI pegou fotos que a própria quadrinista tinha publicado nas redes sociais e usou a tecnologia para fazer versões em que ela aparecia sem roupa.
“Ele pegou uma selfie que eu fiz com o ministro da Educação [Camilo Santana] e criou uma versão em que o ministro continua vestido e eu apareço sem roupa”, descreveu.
No começo de setembro de 2024, a quadrinista não conseguia acessar a plataforma do Brasil, menos ainda denunciar as publicações. Por isso, buscou a delegacia para registrar boletim de ocorrência. Como nunca houve investigação policial, a pessoa por trás da conta @MA7TER_YI não foi identificada.
Ela recorda que teve dificuldade até para registrar a denúncia. “Na delegacia da mulher, disseram que só atendiam casos de violência doméstica; na de crimes cibernéticos, só golpe do Pix; em uma terceira que me indicaram por supostamente haver mais preparo, não sabiam nem o que era deepfake.”
Helô foi atendida na quarta tentativa, na delegacia especializada em pedofilia, por onde já haviam chegado as primeiras denúncias de deepnudes em escolas. “O escrivão registrou, mas me disse para não ter esperança, porque existiam muitos casos na fila.”
O caminho para a reparação foi buscar a Justiça Civil e pedir a responsabilização civil da empresa de Musk. Ainda antes de o STF (Supremo Tribunal Federal) mudar seu entendimento sobre o marco civil da internet, as empresas já podiam ser punidas por não retirar do ar conteúdo criminoso citado em um rol de exceções, que incluía pornografia de vingança e racismo.
A rede social só removeu a publicação depois de uma cautelar expedida no fim de novembro de 2024.
Em julho de 2025, o juiz Raphael Ernane Neves decidiu a favor da quadrinista em primeira instância e condenou o X a pagar uma indenização de R$ 56.480.
A empresa de Musk recorre, e um novo julgamento está marcado para fevereiro. Os advogados da plataforma dizem, nos autos, que o conteúdo já foi retirado do ar e reclamam do valor definido na causa. “Equivale ao rendimento de um ano todo de uma pessoa que recebe R$ 4.700,00, ou seja, de um ano de trabalho de uma pessoa que recebe mais do que a média nacional.”
A quadrinista disse que depois do episódio deixou de usar o X, onde tinha 30 mil seguidores e, até então, utilizava para divulgar seu trabalho. Parou também de publicar fotos pessoais suas nas redes sociais. “Era algo que a comunidade que eu construí gostava: de ver minhas viagens e os congressos que eu frequentava.”
De acordo com o Marco Civil da Internet, em casos em que não se retira conteúdo criminoso, a plataforma é responsável, ainda antes de o STF mudar o entendimento sobre responsabilidade das plataformas por ilícitos na internet no ano passado.
Desde então, a corte criou o dever de cuidado, segundo o qual as plataformas precisam “adotar todas as providências necessárias para evitar a circulação massiva de crimes especialmente graves, como os praticados contra mulheres em razão da condição do sexo feminino e os praticados contra crianças”.
O dispositivo foi citado pela ANPD (Autoridade Nacional Proteção de Dados), na recomendação para que o X implemente um canal de denúncias sobre a divulgação de imagens sintéticas sexualizadas e acelere a remoção de conteúdo ilegal.
Para o advogado Rony Vainzof, sócio do escritório VLK advogados, é preciso responsabilizar criminalmente quem produza pornografia de vingança com IA. “Não basta controlar a tecnologia, as pessoas precisam entender que gerar esse tipo de conteúdo tem consequências graves.”
As plataformas são obrigadas a manter os dados de quem faz cada publicação, como o IP de acesso (espécie de identidade da internet) por seis meses, o que permite que as autoridades encontrem o autor.
No caso de Helô, o X já pode ter descartado as evidências.
“Nós só seguimos no processo porque, quando tivemos uma audiência de conciliação, a empresa não cedeu em nada: não quis fazer acordo, nem reparação financeira, nem compartilhar os dados do autor da postagem”, lembra a quadrinista. “Essa conta tinha feito a mesma coisa com muitas outras pessoas.”
