Aumento da pornografia deepfake se tornou uma crise global

Desde que o ministro do Supremo Tribunal Federal (STF) Alexandre de Moraes determinou a suspensão das atividades da rede social X no Brasil, muitas pessoas recorreram à internet em protesto porque sentiram que o bloqueio era uma espécie de repressão a sua liberdade de expressão.

A decisão foi uma resposta direta ao fechamento do escritório da empresa no Brasil por ordem do seu dono, Elon Musk, deixando-a sem representante legal no país (o que vai contra a lei brasileira). Isso, no entanto, foi apenas o resultado de uma tensão grande entre Musk e o judiciário ao longo dos últimos meses. O dono da Tesla havia descumprido uma série de ordens judiciais, a começar quando se recusou a bloquear perfis de pessoas investigadas pelo STF em inquéritos sobre atos antidemocráticos, milícias digitais e outros. Além de não acatar os pedidos de Moraes, Musk passou a atacar o ministro alegando que ele estava praticando censura.

Desde que Musk comprou o serviço no ano passado por US$ 44 bilhões, a rede social se tornou uma terra de ninguém com a quantidade de desinformação e mídia manipulada com as decisões tomadas pelo bilionário, como a destruição das equipes de confiança e segurança, responsáveis por corrigir problemas causados por esse tipo de conteúdo nocivo.

Esse cenário sem critérios facilita, por exemplo, o crescimento e disseminação de pornografia deepfake, um dos maiores problemas do momento causados pela IA generativa. A suspensão do X no Brasil, inclusive, foi uma forma de impedir que pessoas que possam cometer crimes envolvendo IA sejam descobertas e não saiam ilesas.

As mulheres no centro do problema

AI generativa é um tipo de inteligência artificial capaz de produzir várias formas de conteúdo, desde textos a áudio e dados sintéticos, em questão de segundos, convincentemente autênticos. Vimos um crescimento acelerado de pessoas mal intencionadas usando a ferramenta para deturpar e alterar vídeos e fotos, uma técnica chamada de deepfake, e que encontrou com uma tendência ainda mais perturbadora: a criação de pornografia deepfake.

Basicamente, esse recurso consiste em criar conteúdo sexual explícito falso, mas altamente realista, colocando o rosto de alguém no corpo de outra pessoa, sem consentimento da vítima, como forma de assédio, desmoralização e abuso, visando principalmente mulheres e jovens meninas.

Conforme um levantamento feito pela empresa Security Hero, havia um total de 95.820 vídeos deepfakes online ano passado, um aumento de 550% em relação a 2019. Desses, 98% eram de pornografia e 99% dos indivíduos eram mulheres. Leva menos de 25 minutos e é de graça para criar um vídeo pornográfico de qualquer pessoa usando apenas uma imagem de rosto bem nítida. Não surpreendentemente, o relatório mostrou que 48% dos homens americanos pesquisados consumiram pornografia deepfake pelo menos uma vez, sendo que 74% dos usuários desse tipo de conteúdo não se sentem culpados por isso.

O fato de uma em cada três ferramentas deepfakes permitir que os usuários criem pornografia falsa é um dos motivos pelos quais a regulamentação da inteligência artificial se tornou uma preocupação global. O tópico sobre a criação de pornografia endossou as discussões entorno da ética digital, questões de gênero e estereótipos de raça – uma vez que cantoras e atrizes sul-coreanas constituem 53% dos indivíduos mais visados.

A culpa do sistema

Apesar de figuras públicas serem um alvo comum, a Security Hero lançou luz sobre o fato que muitas mulheres comuns, principalmente menores, são também vítimas dessa forma de abuso digital, usado contra elas como chantagem.

Em setembro, mais de 30 meninas entre 12 e 14 anos, da cidade Almendralejo, no sudoeste da Espanha, foram vítimas de imagens pornográficas deepfake, que se espalharam pelas redes sociais. Segundo a Polícia Nacional Espanhola, em reportagem à ABC News, um grupo de agressores do sexo masculino, que as autoridades afirmam conhecer as vítimas, carregou fotos tiradas dos perfis de mídia social delas em um aplicativo de IA generativa chamado Nudity, cuja função é remover as roupas de uma pessoa usando inteligência artificial.

Os criminosos criaram um grupo no WhatsApp e no Telegram para divulgar essas imagens nuas fabricadas não consensuais e extorquir pelo menos uma das vítimas por imagens nuas reais ou dinheiro.

O impacto desse tipo de pornografia causa traumas psicológicos intensos e extensos, com algumas pessoas precisando de tratamento a longo prazo para problemas como síndrome do pânico, transtorno de estresse pós-traumático (TEPT) e ansiedade. Portanto, é comum que isso leve a ideações suicidas ou até mesmo tentativas de interromper a própria vida.

São poucos os caminhos de justiça para aqueles que fabricam pornografia deepfake. Apenas em alguns locais dos Estados Unidos e da Europa a prática é enquadrada como crime, enquanto em outros o máximo que as vítimas podem fazer é entrar com um processo civil.

Esse tipo de violação é um reflexo da proporção que a IA está tomando na sociedade, mas também das atitudes culturais e normas sociais que tornam as mulheres objetos de consumo visual.