Plataforma terá de indenizar mulher por nudes fake criado com IA
Plataforma foi avisada sobre conteúdo ofensivo, mas só retirou publicação depois que caso foi parar na Justiça
Uma mulher que teve a própria foto usada para criar falsa imagem de nudez por inteligência artificial deverá receber R$ 5 mil de indenização por danos morais. A decisão é da 2ª Câmara Cível do TJMS (Tribunal de Justiça de Mato Grosso do Sul), que responsabilizou a plataforma digital por manter o conteúdo no ar mesmo depois de ser avisada pela vítima.
RESUMO
Nossa ferramenta de IA resume a notícia para você!
No caso, terceiros usaram uma fotografia verdadeira da autora da ação para criar imagens manipuladas digitalmente do conhecido "nudes", nas quais ela aparecia como se estivesse sem roupas. O material ainda foi associado a conteúdo de cunho sexual e acompanhado de legenda considerada degradante.
O nome da plataforma não foi divulgado, se é Instagram, Facebook ou TikTok. Mas a vítima alegou que as publicações tiveram grande repercussão, com milhares de visualizações e interações. Para a Justiça, isso agravou a exposição da vítima e atingiu diretamente sua imagem, intimidade e dignidade.
A ação começou na comarca de Camapuã. Em primeira instância, a Justiça reconheceu que o conteúdo era ilegal e determinou a remoção das publicações, mas não condenou a empresa ao pagamento de indenização. A mulher recorreu.
Ao analisar o caso, o desembargador Nélio Stábile, relator da apelação, entendeu que a plataforma deveria ser responsabilizada porque foi comunicada sobre a violação e não retirou o conteúdo de forma rápida.
Segundo o processo, a autora avisou a empresa em 21 de janeiro de 2025, pelos canais disponibilizados pela própria plataforma. Na comunicação, ela explicou que sua imagem havia sido usada indevidamente com emprego de inteligência artificial. Mesmo assim, o conteúdo continuou disponível por período prolongado e só foi removido depois que o caso chegou à Justiça.
O relator aplicou ao caso o artigo 21 do Marco Civil da Internet, lei que trata da responsabilidade de plataformas quando há divulgação não autorizada de imagens com nudez ou conteúdo sexual. Nessa situação específica, a lei permite a responsabilização da empresa se ela for avisada pela vítima e não agir com rapidez para tornar o material indisponível.
“O artigo 21 do Marco Civil da Internet estabelece regime próprio de responsabilização subsidiária do provedor de aplicações quando, após notificação do participante ou de seu representante legal, deixa de tornar indisponível, de forma diligente, conteúdo gerado por terceiro que viole a intimidade mediante divulgação não autorizada de imagens, vídeos ou outros materiais contendo nudez ou atos sexuais de caráter privado”, afirmou o desembargador.
Nélio Stábile também destacou que, nesses casos, não é preciso esperar uma ordem judicial para retirar o conteúdo do ar, justamente pela gravidade da exposição. Segundo ele, a urgência está ligada ao risco de multiplicação do material e ao dano causado à vítima.
A plataforma tentou afastar a responsabilidade com o argumento de que as imagens não eram reais, mas geradas artificialmente. A tese não convenceu o colegiado. Para o relator, o uso de uma foto verdadeira para fabricar uma falsa nudez causa lesão semelhante à divulgação de imagem íntima sem autorização.
“A utilização de fotografia verdadeira da Autora para fabricar nudez falsa e apresentá-la ao público como conteúdo íntimo autêntico reproduz, com particular gravidade, a lesão que o artigo 21 busca impedir”, pontuou.
A decisão também considerou que o dano moral era evidente, sem necessidade de a vítima provar prejuízo concreto. Para os desembargadores, a associação da imagem da mulher a uma falsa representação de nudez, somada à linguagem ofensiva e à repercussão na plataforma, ultrapassou qualquer ideia de mero aborrecimento.
“A autora teve sua imagem associada, sem consentimento, a representação de nudez fabricada digitalmente e a linguagem sexualmente degradante, em perfil destinado à divulgação de conteúdo íntimo. A exposição atingiu diretamente direitos fundamentais da personalidade e alcançou expressiva repercussão na plataforma, não se tratando de mero aborrecimento ou ofensa passageira”, diz trecho da decisão.
