Justiça condena rede social por manter nude falso de mulher criado por IA em MS

Disseminação de conteúdos falsos produzidos por inteligência artificial voltou a acender o alerta sobre os riscos do uso no ambiente digital. Em Mato Grosso do Sul, nesta quarta-feira (03), uma plataforma de rede social foi condenada a indenizar uma mulher, moradora de Camapuã, após manter no ar uma imagem íntima criada por meio da tecnologia.

A decisão foi proferida pela 2ª Câmara Cível do TJMS (Tribunal de Justiça de Mato Grosso do Sul), que entendeu haver responsabilidade da empresa pela permanência do conteúdo na plataforma, mesmo após a vítima solicitar sua remoção. A indenização por danos morais foi fixada em R$ 5 mil.

Segundo os autos, a fotografia original da mulher foi manipulada digitalmente para simular nudez. Além da alteração da imagem, a publicação continha legendas consideradas ofensivas e degradantes, alcançando milhares de visualizações e interações na internet.

Em primeira instância, a Justiça determinou apenas a retirada do material. No entanto, ao analisar o recurso, os desembargadores concluíram, por unanimidade, que a demora da plataforma em excluir o conteúdo contribuiu para ampliar os danos sofridos pela vítima, justificando a reparação financeira.

O caso evidencia o avanço de uma prática conhecida como "deepfake", tecnologia que utiliza inteligência artificial para criar imagens, vídeos ou áudios falsos com aparência extremamente realista. Especialistas alertam que a ferramenta, embora possua aplicações legítimas, tem sido cada vez mais utilizada para a produção de conteúdos íntimos não autorizados, afetando, principalmente, mulheres.

Na avaliação do tribunal, a divulgação de imagens manipuladas desse tipo representa grave violação aos direitos de personalidade, atingindo a honra, a privacidade e a dignidade da pessoa retratada. Os magistrados destacaram, ainda, que provedores e plataformas digitais têm o dever de agir com rapidez quando são notificados sobre conteúdos que violem a intimidade de terceiros.

O episódio ocorre em meio ao crescimento das discussões sobre a regulamentação do uso da inteligência artificial no Brasil. Recentemente, propostas em tramitação no Congresso Nacional passaram a prever punições mais severas para empresas que permitirem a circulação de pornografia falsa produzida por IA sem adotar medidas adequadas de prevenção e remoção.

A decisão do TJMS é considerada mais um precedente importante no enfrentamento aos abusos envolvendo inteligência artificial e reforça o entendimento de que a inovação tecnológica não pode se sobrepor aos direitos fundamentais de imagem, honra e privacidade dos cidadãos.