A jornalista investigativa alemã Patrizía Scholosser descobriu que imagens falsas dela foram geradas por inteligência artificial e publicadas no site MrDeepFakes, um dos maiores repositórios de deepfake pornográfico do mundo. As fotos manipuladas permaneceram no ar por dois anos sem qualquer intervenção da plataforma.

A história de Scholosser não é única. Um estudo da empresa Security Hero verificou que 98% dos vídeos de deepfake disponíveis online são pornografia e 99% das vítimas são mulheres. O caso da jornalista levou o site de investigações de crimes virtuais Bellingcat a buscar os responsáveis pelo funcionamento do MrDeepFakes e das tecnologias que permitem a criação desse tipo de material.

O MrDeepFakes opera como um marketplace para deepfakes pornográficos e já teve seus vídeos visualizados quase duas bilhões de vezes. A plataforma mantém cerca de 650 mil usuários cadastrados e não divulga informações sobre seus administradores. No entanto, a investigação do Bellingcat apontou que a estrutura do site está vinculada a empresas de tecnologia baseadas na China, em Hong Kong e em paraísos fiscais.

A conexão entre deepfakes e companhias de tecnologia

Uma das empresas identificadas na investigação é a Deep Creation Limited, sediada na região central de Hong Kong. A companhia é responsável pelo Deepswap, ferramenta de inteligência artificial que permite criar deepfakes de fotos e vídeos por US$ 9,99. O Deepswap é anunciado no topo da página do MrDeepFakes com frases como “Crie deepfake de quem quiser” e “Faça pornô IA em um segundo”.

O site do Deepswap tinha links para downloads na Google Play Store e na Apple Store, mas o aplicativo foi removido das plataformas. A Deep Creation Limited, por sua vez, pertence à Virtual Evolution Limited, registrada nas Ilhas Virgens Britânicas, um conhecido paraíso fiscal.

Outro elo encontrado na investigação foi a Nexgo, empresa chinesa que apresenta a Deep Creation Limited como sua subsidiária. A Nexgo, que atua no setor de pagamentos eletrônicos, está listada na bolsa de valores de Hong Kong e possui operações internacionais, incluindo no Brasil.

A tese é que esses apps utilizariam as fotos de clientes pagantes, que usaram os apps para outros fins, para criar os deepfakes pornográficos.

Além disso, o MrDeepFakes exibe anúncios do Candy.ai, um aplicativo que promete criar “namoradas virtuais” com inteligência artificial. O app pertence à EverAI Limited, empresa baseada em Malta. Em resposta à investigação, um porta-voz da EverAI alegou que a companhia implementou controles para evitar deepfakes pornográficas e que a divulgação no MrDeepFakes foi realizada por meio de um programa de afiliados. Esse modelo de marketing, usado por grandes plataformas como Amazon e sites de apostas, premia parceiros que atraem novos clientes.