Em comunidades no Facebook e no Telegram, usuários estão enviando fotos de mulheres do seu círculo para produzir manipulações digitais com conotação sexual. Usuário de grupos no Facebook e Telegram pedem pornô deepfake baseado em pessoas próximas
DANIEL ARCE-LOPEZ/BBC
Atenção: Esta reportagem contém detalhes que podem ser sensíveis para alguns leitores.
Era o intervalo do seu trabalho como bartender em um restaurante de São Paulo. Momento de descanso — e de checar o celular. Ana* estranhou duas mensagens que recebeu pelo Instagram.
Ambas tratavam do mesmo tema. Era um aviso que levou a um turbilhão do qual ela ainda não saiu.
Duas mulheres diziam nas mensagens que uma foto de Ana ao lado de sua mãe — feita em uma festa de Natal — tinha sido alterada e transformada em uma imagem em que as duas apareciam nuas. A imagem estava sendo compartilhada na internet junto com o link para o perfil de Ana no Instagram.
“Minha mãe, a pessoa que mais amo na minha vida. Uma senhora religiosa de 65 anos. Só de lembrar da foto, de ter que rever a foto, eu fico mal. Ela não sabe até hoje o que aconteceu”, ela conta à BBC News Brasil.
Apesar do choque, a bartender de 25 anos não demorou para perceber a relação da imagem manipulada com uma postagem que ela havia feito no Facebook — era uma provável represália.
Em maio, Ana havia compartilhado um alerta: participantes de uma comunidade no próprio Facebook estavam criando imagens pornô falsas a partir de fotos das colegas, vizinhas ou parentes.
Nestas manipulações, um corpo nu é inserido digitalmente no lugar do corpo vestido com roupas da pessoa que aparece na imagem original. Ou o rosto da vítima é adicionado a uma cena de sexo.
Especialistas dizem que o avanço acelerado da inteligência artificial vem tornando essas montagens, conhecidas como deepfakes, cada vez mais realistas. São os antigos “photoshops” com capacidades multiplicadas.
Post em comunidade ironiza medo provocado em mulheres por ferramentas de deepfake
REPRODUÇÃO
Ana decidiu fazer por conta própria uma investigação para descobrir quem eram as pessoas por trás desse grupo.
Ela notou que comunidades deste tipo costumam ser tiradas do ar pelo Facebook em algum momento, porque violam as regras da rede social. Mas ressurgem com nomes ligeiramente diferentes pouco tempo depois e sobrevivem por alguns dias até que sejam derrubadas de novo.
É tempo suficiente, diz Ana, para que essas páginas alcancem seu objetivo: promover comunidades de pornô deepfake que funcionam dentro do aplicativo de mensagens Telegram.
Foi assim com a página do Facebook na qual a imagem de Ana e sua mãe foi publicada, que virou uma comunidade no Telegram que tem quase 2 mil membros.
Ana decidiu entrar no grupo e acompanhar o que acontecia por lá.
‘Mulher é um ser maligno’
A reportagem da BBC News Brasil presenciou em tempo real participantes da comunidade no Telegram encomendando deepfakes pornô a partir de fotos de mulheres que diziam ser suas conhecidas.
Depois de algum tempo, quem tinha feito o pedido recebia a imagem manipulada de volta.
Uma das mensagens mostrava, por exemplo, uma selfie comum — sem grande produção ou cuidado com iluminação — de uma mulher vestida.
A seguir, apareceu uma versão digitalmente modificada em que ela aparecia nua.
Participante 1 – Quem é?
Participante 2 – Mãe de um amigo meu kkkk
Nos diálogos travados no grupo, os participantes demonstravam ter uma postura de forte hostilidade em relação a mulheres.
Participante 3 – Mulher calada ou tá lavando louça ou dando pro marido depois do trabalho
Participante 4 – Ou apanhando
Participante 5 – Mulher é um ser maligno e também é o ser mais falso da humanidade. Hoje em dia elas são verdadeiros demônios
Outro membro da comunidade fala de forma obsessiva sobre a irmã, aborda a possibilidade de abusá-la e pede que façam um pornô deepfake dela.
Alguns também se gabam de apreciar gore — vídeos e fotos de situações de extrema violência, quase sempre reais.
Mesmo em comunidades abertas do Facebook, onde não é postado pornô deepfake, o propósito do grupo de constranger mulheres é celebrado.
Ana mostra uma página de memes, que se descreve como de “humor negro” e reúne 63 mil usuários, onde se ironiza o receio de mulheres de postarem livremente suas fotos.
“Apenas imagine: […] mulheres passam a ter medo de postar qualquer foto na internet, pois o robô da p…ria está sempre à espreita”, disse um dos participantes.
Outro comentou: “*mulheres passam a ter medo de postar qualquer foto na internet* Objetivo concluído ✔️
À BBC News Brasil, o Telegram e a Meta, dona do Facebook, disseram que monitoram constantemente a circulação de conteúdo prejudicial em seus aplicativos e atuam quando necessário.
Conversa em um dos grupos do Telegram de pornô deepfake em que predomina discurso de ódio contra mulheres
REPRODUÇÃO
Tanto nestes grupos de memes do Facebook, que são acessíveis sem qualquer restrição, quanto nas comunidades fechadas do Telegram são frequentes as menções a termos e temas da “machosfera”, como são chamados os grupos e fóruns online em que os participantes debatem sobre uma suposta perda do poder masculino na sociedade atual.
Há as subdivisões dentro da machosfera, mas o discurso de ódio — ou ao menos de ressentimento — contra as mulheres está presente em boa parte delas. Os grupos incel e redpill estão entre os principais.
O nome incel vem da expressão em inglês “involuntary celibates” (celibatários involuntários, em tradução livre do inglês).
São adolescentes ou jovens adultos que se dizem rejeitados por mulheres e visitam fóruns online para encontrar uma comunidade.
Muitos alegam que perderam a “loteria genética” (consideram não ser o “protótipo” de homem popular) e afirmam que estão “condenados” ao desprezo pelo sexo feminino.
Diferentemente dos incels, os redpills falam de travar relacionamentos com mulheres, mas sustentam que é necessária uma atitude de dominação e de desconfiança em relação a elas.
Prega-se um retorno aos tempos em que o domínio masculino era indiscutível na sociedade.
Redpill (pílula vermelha, em tradução livre) é uma referência aos filmes da franquia Matrix, em que o protagonista escolhe entre tomar a pílula azul, que permite seguir em um “mundo de ilusões”, e a vermelha, para encarar a “realidade”.
Ana fala com o ‘admin’
Ana conta que os administradores, ou “admins”, da comunidade no Telegram ofereciam, por R$ 15, acesso a um “grupo VIP com outros tipos de conteúdo”.
Ela mostrou à reportagem capturas de tela de uma conversa que teve com um deles em que ela demonstrou interesse em acessar o grupo.
O administrador, então, forneceu duas chaves de pix embaralhadas (aleatórias). Ana, porém, demorou alguns minutos para efetuar a transação.
Ele voltou então a procurá-la e passou uma nova chave pix: seu número de celular.
Ana diz que, a partir dessa informação, encontrou informações que levavam a dados associados a um homem do interior de Goiás.
Ela decidiu levar essas informações à polícia. Junto com Ana, outras vítimas de pornô deepfake denunciaram seus casos.
Elas se reuniram em um grupo de WhatsApp para discutir estratégias sobre como fazer os responsáveis pela comunidade pornô deepfake serem responsabilizados pela Justiça.
Entre as participantes, há a mãe de uma menor de idade que foi alvo de deepfake.
Outra é Fernanda*, de 22 anos. Ela é cosplayer (veste fantasias de personagens famosos, principalmente dos animes japoneses) e teve uma foto de uma festa de Halloween alterada.
Fernanda diz que já sofre com agressões online quando não responde a abordagens de interessados na cultura cosplayer.
Após a manipulação da sua foto, a preocupação aumentou.
“Você começa a ficar com medos do tipo ‘será que eu devo sair com tal roupa? E se fizerem alguma coisa? E se tirarem uma foto?”, diz.
“Porque eles acreditam que, por causa da roupa, eles têm direito de fazer isso. Tanto que um dos comentários no grupo deles do Telegram foi ‘para não ser vítima do nosso grupo, basta não tirar foto com decote’.”
Ela decidiu tornar privados seus perfis, que incluíam as fotos de cosplay, e diz que se tornou “reclusa” nas redes sociais desde então.
Usuário do grupo no Telegram discursa contra mulheres e o que chama de ‘manginas’ (junção das palavras ‘man’, homem em inglês, e vagina), termo empregado na ‘machosfera’ para homens que ‘idolatram’ mulheres
REPRODUÇÃO
Poucas respostas da polícia
Ana, Fernanda e outras vítimas que moram em São Paulo levaram capturas de tela de conversas e imagens postadas nos grupos no Facebook e no Telegram à Delegacia de Delitos Cometidos por Meios Eletrônicos, divisão criada no final de 2020.
Elas dizem que, após uma espera de quatro horas, foram informadas que a denúncia seria registrada, mas que a delegacia só investiga casos de fraudes financeira ou violação de redes de dados e que outros crimes cometidos por meios eletrônicos devem ser apurados pelas delegacias mais próximas de onde as vítimas moram.
Ana e Fernanda afirmam que, nas respectivas delegacias, foram informadas que os policiais ainda aguardavam o registro feito pela Delegacia de Delitos Cometidos por Meios Eletrônicos.
Até o momento de publicação desta reportagem, nenhuma das vítimas diz ter recebido qualquer sinalização de que suas denúncias estão sendo apuradas.
A Secretaria de Segurança Pública do Estado de São Paulo afirmou que “a instituição está à disposição da vítima, e de outras mulheres que sofreram este tipo de crime, para formalizar o registro do boletim de ocorrência e investigar os fatos”.
A secretaria informou ainda que “[Fernanda] foi chamada para comparecer à unidade para ser ouvida e fornecer informações que possam auxiliar na elucidação do crime” e que, no caso de Ana, a delegacia local “prossegue com as diligências para esclarecer os fatos”.
A secretaria não esclareceu por que a Delegacia de Delitos Cometidos por Meios Eletrônicos investiga apenas fraudes financeiras ou violação de redes de dados, mas afirmou que “todas as delegacias do Estado possuem estrutura e estão aptas para registrar e apurar crimes praticados pela internet”.
O FBI, a polícia federal americana, fez um alerta nos Estados Unidos em 2023 a respeito de esquemas de vendas de fotos manipuladas com inteligência artificial
GETTY IMAGES
Lei não trata de ‘deepfake’
A lei brasileira ainda não prevê punições específicas para a produção de deepfakes.
Segundo Patricia Peck Pinheiro, advogada especialista em direito digital, uma falsificação de conotação sexual por meios tecnológicos é analisada pela Justiça como “ataque à honra, intimidade e imagem da pessoa, que são bens protegidos pelo ordenamento jurídico”.
Casos assim, explica Peck, podem ser enquadrados como crime de injúria ou punidos por meio da legislação que trata de crimes sexuais.
Há dois projetos de lei no Congresso, um de autoria do senador Chico Rodrigues (PSB-RR) e outro da deputada federal Jandira Feghali (PCdoB-RJ), que propõem aumento de penas quando há uso de deepfake.
“Como não temos uma lei específica e o assunto fica envolto em várias leis esparsas, com certeza, é benéfica a existência desses projetos”, diz Peck.
Mas ela adverte que a legislação já não consegue alcançar a velocidade das mudanças tecnológicas. A advogada diz ser necessária “uma atuação preventiva e orientativa por parte do Estado”.
“É preciso poder agir rápido, para acolher a vítima e realizar a investigação, que também demanda uso de recursos técnicos para se obter as provas necessárias para aplicação da lei e punição exemplar dos infratores.”
O projeto de Feghali já foi aprovado na Câmara dos Deputados e, agora, tramita no Senado.
A proposta de Rodrigues foi apensada, ou seja, passou a integrar o projeto de lei que regulamenta a inteligência artificial no Brasil, de relatoria do senador Eduardo Gomes (PL-TO). Rodrigues tenta reverter isso, para que seu projeto seja analisado isoladamente.
Em 18 de junho, a votação do relatório de regulamentação da inteligência artificial no país foi adiada até que sejam realizadas mais cinco audiências públicas para debater o projeto.
LEIA TAMBÉM:
Por que Elon Musk vai mudar sede de empresas por lei de identidade de gênero
Meta diz que suspendeu recursos de inteligência artificial generativa no Brasil
WhatsApp deixará de funcionar em celulares básicos com sistema KaiOS
Deepfake evolui rápido
A pesquisadora Agnes E. Venema, especializada no tema e afiliada à Universidade de Malta, diz que ferramentas de produção de deepfakes têm ficado progressivamente melhores.
No dia a dia, avalia Venema, será cada vez mais difícil diferenciar um conteúdo falso de outro que é real.
“Isso é algo que vem ocorrendo nos últimos dez anos. O deepfake feito em 2024 é um deepfake mais avançado em relação ao que foi feito em 2020”, afirma a pesquisadora.
Ainda que peritos consigam apontar uma manipulação, o dano provocado pela circulação destes conteúdos é grave, diz Venema, porque as pessoas ficam inclinadas a aceitar o deepfake como verdadeiro se o conteúdo “confirma” suas crenças.
“Mesmo deepfakes de péssima qualidade podem causar grandes prejuízos. Há uma mentalidade ‘se tem fumaça, tem fogo’ nas pessoas.”
Para Venema, “plataformas tecnológicas precisam ser responsabilizadas”.
“O peso de remover material desse tipo não deve ficar em cima dos ombros da vítima, mas sim das plataformas digitais.”
Usuário em comunidade de memes no Facebook ironiza medo das mulheres de que as fotos postadas nas redes sociais sejam transformadas em pornô deepfake
REPRODUÇÃO
Procurada pela BBC News Brasil, a Meta, responsável por Facebook, Instagram e WhatsApp, afirmou que revisa as publicações em suas plataformas por meio de ferramentas que usam inteligência artificial e também com o apoio de equipes humanas para detectar, analisar e remover conteúdos que violem seus padrões.
“Estamos sempre aprimorando nossos esforços para manter nossas plataformas seguras e também incentivamos as pessoas a denunciarem conteúdos e contas que acreditem violar nossas políticas através das ferramentas disponíveis dentro dos próprios aplicativos”, disse a empresa por meio de nota à reportagem.
O Telegram afirmou que, “desde sua criação, tem moderado ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal”.
“Moderadores usam uma combinação de monitoramento proativo e dos relatos de usuários para remover milhões de itens de conteúdo prejudicial todos os dias”, disse a empresa.
Enquanto isso, Ana afirma que não aceita mais solicitações de amizade no Facebook e no Instagram e que fechou o acesso às suas fotos pessoais mesmo para seus contatos nestas redes.
Ela pensa em contratar um advogado com o dinheiro que vem juntando com seu trabalho como bartender para acelerar a busca por justiça.
“Estou totalmente disposta a isso. É uma foto com a minha mãe, uma pessoa muito importante para mim”, diz ela.
“Esse tipo de coisa está dentro de uma bolha ainda. Quando a bolha explodir, espero que essas pessoas dos grupos sejam responsabilizadas.”
*Os nomes das vítimas foram trocados para preservar sua identidade.
‘Stalking’: saiba quando a perseguição na internet se torna crime
‘Stalking’: saiba quando a perseguição na internet se torna crime
Meta passa a coletar dados das redes para IA. Saiba passo a passo para desativar
Meta passa a coletar dados das redes para IA. Saiba passo a passo para desativar
Os bastidores, as estratégias e a rotina de quem ganha a vida vendendo vídeos de sexo
Os bastidores, as estratégias e a rotina de quem ganha a vida vendendo vídeos de sexo