Texto por Nini Vasconcelos
Design por Darlís Santos
A produção, o consumo e a distribuição de pornografia, em todas as suas formas, são estritamente ilegais na Coreia do Sul, podendo resultar em multas ou sentenças de prisão para aqueles que infringirem a lei. Por esse motivo, as pessoas, majoritariamente homens, recorrem a aplicativos que garantem o anonimato, como o Telegram, para terem acesso a esse tipo de conteúdo.
Entretanto, foi descoberto que boa parte da pornografia divulgada nessas plataformas possui uma natureza que vai além do “comum”, pois está diretamente relacionada à grave violação de direitos femininos.
O maior e mais conhecido exemplo disso é a Nth Room.
Nth Room é um caso criminal que envolve chantagem, cybersexo, tráfico e propagação de conteúdos sexuais exploratórios no Telegram. Um homem apelidado de god god, posteriormente identificado como Moon Hyung Wook (문형욱) vendia vídeos de exploração sexual em canais e grupos do aplicativo.
Inspirada por essa ideia, existiu também a “Doctor’s Room”, operada por Cho Ju Bin (조주빈), que utilizou de chantagem para forçar mulheres a gravarem vídeos de cunho sexual, alguns envolvendo estupro. O número de vítimas confirmadas é de pelo menos 103, incluindo 26 menores de idade, e esses conteúdos foram vendidos para cerca de 60.000 usuários da plataforma, que pagaram anonimamente em criptomoeda. Ademais, um estudante do ensino médio de Incheon administrava várias salas de bate-papo, ainda no Telegram, que distribuíam materiais de abuso infantil e agressão sexual contra crianças, links para compra de drogas e compartilhavam truques sobre como lidar com investigações policiais.
A repercussão desse caso foi tanta que deu origem a um documentário da Netflix, intitulado “Cyber Hell: Exposing An Internet Horror”.
Com a extinção destes canais e o encarceramento dos responsáveis por criá-los, o problema parecia ter sido resolvido. Até que, recentemente, veio à tona a existência de outros grupos de Telegram ligados a crimes sexuais no território sul-coreano, desta vez mais focados no uso da inteligência artificial para gerar vídeos deepfake pornográficos de artistas e de não-celebridades.
Sem dúvidas, o avanço da tecnologia é essencial para a evolução humana nas mais diversas áreas, todavia, nos últimos tempos, ficam cada vez mais evidentes os problemas do uso descontrolado e antiético destes recursos. Os deepfakes — vídeos em que o rosto ou corpo de uma pessoa é digitalmente alterado para que ela pareça outra — são a prova disso.
E, neste momento, a Coreia do Sul enfrenta uma epidemia de crimes sexuais digitais, centenas de mulheres e meninas foram, ou estão sendo, alvo de imagens pornográficas falsas divulgadas online. Essa nova onda de crimes sexuais inclui salas de bate-papo onde deepfakes pornográficos de celebridades, colegas de classe e até familiares são compartilhados. O número de relatos de casos desse tipo aumentou de 156 (2021) para 297 (julho deste ano) [1].
A busca por essa espécie de montagem ilegal é tanta que existem incontáveis canais para seu consumo, um deles com mais de 220.000 membros [1]. Além disso, foram expostos grupos em que há a categorização das vítimas a partir de suas cidades e escolas [2]. As sul-coreanas têm cada vez mais medo de que vizinhos, amigos ou até mesmo familiares possam fazer pornografia com suas fotos.
De acordo com um relatório da Security Hero — uma startup dos EUA focada na proteção contra roubo de identidade — sobre deepfakes a nível mundial, a Coreia do Sul é o país mais visado pela pornografia deepfake, com as suas cantoras e atrizes constituindo 53% dos indivíduos apresentados nesses conteúdos [3].
O que, em particular, chamou a atenção dos internautas, da forma mais negativa possível, foi a preferência dos criminosos por consumirem e produzirem vídeos de meninas menores de idade, incluindo maknaes de grupos de K-pop.
Em adição a isso, foi descoberto que alguns dos infratores desenvolvedores destes conteúdos também não atingiram a maioridade, gerando uma discussão sobre os valores vigentes nas escolas e na sociedade como um todo [2].
Evidentemente, não demorou muito para as empresas de entretenimento demonstrarem preocupação e se pronunciarem sobre o assunto [4].
Leia abaixo a tradução na íntegra de algumas notas divulgadas.
JYP Entertainment:
“Olá, aqui é a JYP Entertainment.
Estamos muito preocupados com a recente disseminação de vídeos deepfake (gerados por IA) envolvendo nossos artistas.
Esta é uma violação descarada da lei, e estamos no processo de coletar todas as evidências relevantes para buscar a ação legal mais forte possível, com um escritório de advocacia líder, sem leniência.
Queremos deixar claro que não ficaremos parados enquanto os direitos de nossos artistas são violados e tomaremos medidas decisivas para resolver este assunto na maior extensão possível.
Obrigado.”
ATRP:
“Olá, aqui é a ATRP.
Gostaríamos de informar que a recente disseminação de vídeos deepfake envolvendo os nossos artistas não é apenas uma violação dos direitos deles, mas também um problema social muito sério.
Não ficaremos parados e responderemos com fortes ações legais, sem qualquer leniência, para proteger os direitos dos nossos artistas.
Por meio de monitoramento completo, continuaremos a coletar evidências da criação e distribuição de vídeos maliciosos em qualquer formato, e pedimos que os fãs denunciem quaisquer postagens maliciosas envolvendo nossos artistas para o nosso endereço de e-mail oficial.
Obrigado.”
MODHAUS:
“Olá, aqui é a MODHAUS.
Recentemente, a questão dos vídeos deepfake ilegais se tornou um problema social significativo. Ouvimos as preocupações dos fãs e estamos levando essa situação muito a sério.
A MODHAUS está monitorando de perto a situação para proteger nossos artistas.
Prometemos fazer tudo o que estiver ao nosso alcance para evitar que eles sejam explorados de qualquer forma e responderemos ativamente para garantir sua proteção.
Pedimos gentilmente seu interesse e apoio contínuos. Obrigado.“
FCENM:
“Olá, aqui é a FCENM.
Soubemos recentemente que vídeos sintéticos gerados por IA envolvendo nossos artistas estão sendo distribuídos online. Esse comportamento é um crime grave que prejudica a reputação de nossos artistas, e estamos levando isso muito a sério.
No momento, estamos reunindo todas as evidências relevantes e trabalhando com uma equipe jurídica profissional para buscar uma ação legal forte.
Queremos deixar claro que não toleraremos nenhuma atividade ilegal que infrinja os direitos e a honra de nossos artistas.
A FCENM continuará priorizando a proteção de nossos artistas e tomará todas as medidas possíveis para isso.
Obrigado.”
A polícia já iniciou investigações afincas sobre o caso, mas se deparou com algumas dificuldades geradas pelas configurações de privacidade do Telegram [5].
“Investigar o Telegram é difícil, pois eles não compartilham informações de contas e outras formas de informações pessoais com autoridades investigativas ou com agências de aplicação da lei sediadas na Coreia e em outros países”, disse Woo Jong-soo, chefe do escritório nacional de investigação.
Reconhecendo a recente prisão do cofundador e CEO do Telegram, Pavel Durov, na França, Woo acrescentou que a polícia analisará a possibilidade de trabalhar com autoridades francesas e outras organizações internacionais para ver como a prisão de Durov pode se tornar uma oportunidade de encontrar evidências que provem que o aplicativo auxiliou e instigou as salas de bate-papo onde centenas de milhares de membros distribuíram pornografia deepfake.
O CEO da plataforma foi preso no dia 28 de agosto, em Paris, por, supostamente, não impedir transações ilegais de um grupo organizado, permitir a distribuição de material de abuso sexual infantil, tráfico de drogas e fraude, e se recusar a cooperar com a aplicação da lei.
Esta é a primeira vez que as autoridades coreanas iniciam uma busca sobre o Telegram, embora ele já tenha sido criticado pela primeira vez durante o caso criminal Nth Room, citado anteriormente.
Apesar destas dificuldades, a polícia garantiu que possui suas próprias técnicas de investigação e está fazendo o melhor para identificar os culpados. Eles também atualizarão as orientações para expandir o escopo das buscas secretas para investigar pornografia deepfake de adultos, já que as orientações atuais são limitadas a crimes sexuais digitais envolvendo vítimas menores de idade.
Em relação a essa situação, o psicólogo forense Lee Soo-jung disse ao The Korea Herald que é necessário não apenas impor penalidades mais duras para aqueles que criam, distribuem e assistem a conteúdo deepfake sexualmente explorador, porém também “regulamentar plataformas que podem ser usadas como canais criminosos”. “Desde 2022, leis começaram a ser promulgadas no exterior — especialmente na Europa — para responsabilizar plataformas online pela distribuição de conteúdo sexual exploratório. No entanto, na Coreia, essas plataformas são monitoradas, mas não podem ser punidas por lei”, disse Lee [5].
Infelizmente, ainda está longe desta questão ser resolvida. A violação dos direitos das mulheres é algo relacionado com a estrutura patriarcal da sociedade sul-coreana — e de outros países —, algo que não pode ser mudado do dia para noite. Portanto, devemos continuar lutando, da forma que conseguirmos, pela dignidade feminina na Coreia do Sul e no mundo.
Obrigada por falarem desse assunto tão importante!