Escândalo abrange mais de 500 instituições de ensino, com muitas vítimas menores em grupos de bate-papo no aplicativo Telegram.
No último sábado (31/8), Heejin recebeu uma mensagem no Telegram de um remetente desconhecido, alertando sobre um vazamento. A mensagem dizia: ‘Suas fotos e informações pessoais foram expostas, e há pornografia envolvida.’
Esse tipo de situação é alarmante, especialmente com o aumento de deepfakes na internet. As imagens falsas podem ser usadas para criar conteúdo pornográfico que prejudica a reputação das pessoas. É crucial estar ciente dos riscos associados a esse tipo de tecnologia.
O Impacto da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul entrou no bate-papo para verificar a mensagem recebida, deparou-se com uma foto sua tirada anos atrás, enquanto ainda estava na escola, seguida por uma segunda imagem que utilizava a mesma foto, mas de maneira sexualmente explícita — e completamente falsa. Apavorada, Heejin, que não é seu nome verdadeiro, decidiu não responder, mas as imagens continuaram a chegar. Em todas elas, seu rosto foi anexado a um corpo realizando atos sexuais, utilizando a avançada tecnologia de deepfake. A pornografia deepfake — que, em sua essência, combina o rosto de uma pessoa real com um corpo falso e sexualmente explícito — está sendo gerada com uma frequência alarmante através de ferramentas de inteligência artificial.
Compreendendo o Fenômeno dos Deepfakes
O trauma devastador enfrentado por aqueles que têm suas imagens utilizadas em ‘deepfakes’ pornográficos é imensurável. ‘Fiquei petrificada, me senti tão sozinha’, compartilhou Heejin à BBC. Contudo, ela não estava sozinha nessa situação. Apenas dois dias antes, a jornalista sul-coreana Ko Narin havia publicado o que se tornaria o maior furo de reportagem de sua carreira. Recentemente, havia sido revelado que a polícia estava investigando redes de pornografia deepfake em duas das principais universidades do país, e Ko estava convencida de que havia muito mais a ser descoberto.
Artigos Relacionados
Investigação e Redes de Compartilhamento
Ela começou a explorar as redes sociais e descobriu dezenas de grupos de bate-papo no aplicativo de mensagens Telegram, onde os usuários compartilhavam fotos de mulheres que conheciam e utilizavam um software de inteligência artificial para transformá-las em imagens pornográficas falsas em questão de segundos. ‘A cada minuto, as pessoas enviavam fotos de garotas que conheciam, pedindo que fossem convertidas em deepfakes’, revelou Ko à BBC.
Alvos e Salas de Humilhação
Ko percebeu que esses grupos não se restringiam apenas a estudantes universitárias. Havia salas de bate-papo dedicadas a escolas específicas do ensino médio e até mesmo do ensino fundamental. Se um número excessivo de conteúdo fosse criado utilizando imagens de uma aluna em particular, ela poderia até ganhar sua própria sala. Comumente rotuladas como ‘salas de humilhação’ ou ‘salas de amigas de amigos’, essas salas frequentemente possuem termos de entrada rigorosos.
Repercussões e Respostas das Autoridades
A reportagem de Ko, publicada no jornal Hankyoreh, chocou a Coreia do Sul. Na segunda-feira (2/9), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades da França, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo prometeu impor punições mais severas para os envolvidos, e o presidente pediu que os jovens recebessem uma educação mais adequada sobre o tema. O Telegram afirmou, por sua vez, que ‘combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC.
Descrição das Salas de Bate-Papo
A BBC teve acesso às descrições de várias dessas salas de bate-papo. Uma delas solicita que os membros postem mais de quatro fotos de alguém, junto ao nome, criando um ambiente propício para a disseminação de imagens falsas e conteúdo pornográfico. A situação é alarmante e levanta questões sérias sobre privacidade, consentimento e as consequências da tecnologia de deepfake na sociedade atual.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo