No mês passado, a Coreia do Sul foi abalada por um escândalo de pornografia deepfake que revelou a utilização crescente das imagens que são geradas por inteligência artificial que combinam o rosto de uma pessoa real com um corpo falso (normalmente em situações sexualmente explícitas), para assediar mulheres e meninas. O caso, que envolveu mais de 500 instituições educacionais, trouxe à tona o uso sistemático do aplicativo de mensagens Telegram para a disseminação dessas imagens.

A denúncia foi feita pela jornalista Ko Narin, que expôs a existência de grupos de bate-papo no Telegram onde usuários compartilhavam fotos de mulheres conhecidas e as transformavam em deepfakes pornográficos em questão de segundos. A prática, que começou a ser investigada pela polícia em duas das principais universidades do país, se estendeu para escolas de ensino médio e fundamental, onde as vítimas eram expostas em salas de bate-papo rotuladas como “salas de humilhação”.

Governo e ativistas reagem

A reação pública foi imediata, levando o governo a prometer punições mais severas para os envolvidos. A Agência Nacional de Polícia de Seul anunciou que investigaria o Telegram por permitir a distribuição de imagens pornográficas falsas de crianças, seguindo o exemplo da França, que recentemente acusou o fundador do Telegram, Pavel Durov, de crimes relacionados à plataforma.

No entanto, ativistas de direitos das mulheres criticam as autoridades sul-coreanas por não agirem antes, apontando que o país já enfrentou crises semelhantes no passado. Em 2019, uma rede de sexo no Telegram coagia mulheres e crianças a criarem e compartilharem imagens sexualmente explícitas, mas a falta de ação efetiva por parte do governo e da plataforma resultou em um agravamento do problema.

“Eles condenaram os principais atores, mas negligenciaram a situação, e acho que isso agravou a situação”, disse a jornalista Ko Narin.

A situação atual tem levado muitas jovens a desativarem suas contas nas redes sociais e a temerem por sua segurança online. A ansiedade gerada pela possibilidade de terem suas imagens manipuladas e compartilhadas tem feito com que adolescentes e jovens mulheres se tornem hipervigilantes em suas interações sociais.

Enquanto isso, o governo prometeu aumentar as penas para quem criar, compartilhar ou visualizar deepfakes pornográficos, reconhecendo a necessidade de abordar a raiz do problema, que reside no sexismo estrutural da sociedade sul-coreana.