Somente o modelo de Fans encontra suas fotos no Reddit com rosto errado

“Ei, é você?”

Bunni recebe esses DMs com frequência – alertas aleatórios de estranhos sinalizando perfis falsos imitando -a online. Como criadora apenas de Fans, ela aprendeu a viver com o exaustivo e irritante ciclo de representação que vem com o território. Cinco anos depois, ela conhece a broca.

Mas desta vez parecia diferente. A conta em questão chegou muito perto. A foto? Sem dúvida, é a camisa dela, suas tatuagens, seu quarto. Tudo checha, mas que não é o rosto dela.

Um deepfake reverso

O que está acontecendo com Bunni é uma das evoluções mais incomuns – e perturbadoras – do abuso de deepfake. A DeepFakes, tipicamente a mídia gerada por IA ou manipulada, é mais comumente associada a pornografia não consensual envolvendo celebridades, onde o rosto de uma pessoa é convincentemente enxertado no corpo de outra pessoa. Essa forma de exploração sexual baseada na imagem foi projetada para humilhar e explorar, e se espalha rapidamente por sites pornográficos e plataformas sociais. Um dos hubs mais proeminentes para esse tipo de conteúdo, o Sr. Deepfake, fechou recentemente depois que um provedor de serviços -chave terminou o suporte, cortando o acesso à sua infraestrutura.

O desligamento aconteceu uma semana depois que o Congresso aprovou o “Take It Down Act”, um projeto de lei que exige que as plataformas removessem o conteúdo de Deepfake e Revenge porn dentro de 48 horas após uma solicitação de remoção. A legislação, que deve ser assinada pelo presidente Donald Trump, faz parte de um esforço mais amplo para regular o abuso gerado pela IA.

Mas o caso de Bunni complica a conversa. Isso não é uma questão de seu rosto ser colado em conteúdo explícito – ela já é uma criadora apenas defans. Em vez disso, suas fotos foram alteradas digitalmente para apagar sua identidade, reembaladas sob um nome diferente e usadas para construir uma persona totalmente nova.

Perseguindo um peixe -gato da AI – a situação de Bunni

Em fevereiro, Bunni postou um vídeo no Instagram. O vídeo mostrou um lado surreal de lado: o verdadeiro Bunni apontando para uma foto de um post do Reddit que mal a parecia. A imagem falsa foi meticulosamente esfregada de muitas de suas características definidoras – os piercings faciais desapareceram, seus cabelos escuros clareados, sua expressão suavizou. Em seu lugar, havia um rosto projetado para o anonimato: grandes olhos verdes, pele suave e estética higienizada de garotas alt.

O verdadeiro Bunni aponta para uma fotografia falsa.
Crédito: Screenshot do usuário do Instgram @bunnii_squared

Foto original de Bunni do Instagram
Crédito: Screenshot do usuário do Instgram @bunnii_squared

O perfil do Reddit, agora excluído, mas Parcialmente ressuscitado através da máquina de WaybackApresentado “Sofía”: um autoproclamado de 19 anos de idade da Espanha com um “estilo alt” e um amor pela música rock, que estava “aberta para conhecer novas pessoas”. Bunni tem 25 anos e vive no Reino Unido. Ela não é, e nunca esteve, Sofía.

O falso perfil do Reddit para “Sofía”, uma personalidade fabricada que afirma ter 19 anos de idade da Espanha.
Crédito: Screenshot da Wayback Machine

“Estou tão acostumado a ser roubado”, disse Bunni ao Mashable. “Isso meio que acontece. Mas isso era como – uma maneira tão diferente de fazê -lo que eu nunca tinha acontecido comigo antes. Era apenas, muito estranho.”

Fica mais estranho. A conta da Sofía, que surgiu pela primeira vez em outubro de 2023, começou inocentemente, postando para fóruns de bem-estar como R/AWWW. Mas em breve, ele migrou para mais nicho – e mais desconcertante – subreddits como R/Adolescentes, R/TeenagersButbetter e R/Teenagersbuthot. Os dois últimos ramificações do subreddit principal existem em uma zona cinzenta com ironia com mais de 200.000 membros combinados.

Captura de tela mostrando a publicação da conta “Sofía 🖤🎀🌙” nos subreddits R/Teenagersbuthot e R/TeenagersButbetter, fazendo postagens casuais e relacionadas a livros para parecer autênticas.
Crédito: Screenshot da Wayback Machine

Usando selfies editadas retiradas das sociais de Bunni, a conta publicada sob o pretexto de buscar conselhos de moda, aprovação e até fotos de seus animais de estimação.

“Minhas roupas parecem estranhas?” Uma legenda perguntou sob uma foto de Bunni experimentando jeans em uma sala de encaixe.

“Comprei esses jeans”, lembrou Bunni. “O que você quer dizer?”

Mas o jogo não era apenas jogar vestir-se. A Persona Sofía também postou em R/Faceratings e R/AmiuglybrutrallyHonest, subreddits, onde os usuários classificam a atratividade de estranhos com sinceridade brutal. O motivo provável é mais provável que construa credibilidade e validação.

Crédito: Screenshot da Wayback Machine

A etapa final da representação se destacou ao conteúdo adulto. No último instantâneo arquivado da conta, “Sofía” começou a postar em subreddits como R/Selfie-um fórum de selfie padrão onde as imagens NSFW são proibidas, mas links apenas para contas de fãs em perfis de usuário-e r/punkgirls, um espaço muito mais explícito com uma mistura de amador e profissional. Um post Sofía em R/Punkgirls diz: “(F19) Finalmente postando fotos sexy no Reddit, devo continuar postando?” Outro seguiu com: “(F19) Como todos vocês queriam me ver postando mais.”

A conta usou fotos alteradas de Bunni e colocou como um garoto de 19 anos buscando validação por meio de posts sexualmente sugestivos.
Crédito: Screenshot da Wayback Machine

O último post da conta estava em um tópico R/Askreddit descrevendo a experiência sexual mais estranha que eles já tiveram.

Outro comentário obscurecendo a linha entre construção de persona e isca sexual, ajudar o imitador a parecer mais real enquanto se envolve em comportamento de agricultura de atenção.
Crédito: Screenshot da Wayback Machine

Bunni supôs que o final do jogo era provavelmente uma farsa visando homens, enganando -os a comprar nus, potencialmente retirados de seus próprios fãs. O perfil em si não publicou links para plataformas externas como Snapchat ou SomenteFans, mas ela suspeita que a atividade real tenha acontecido em mensagens privadas.

“O que eu imagino que eles fizeram é que eles estarão postando nos subreddits SFW, usando fotos da SFW e depois mensagens de mensagens que interagem com elas e sendo como ‘Oh, você quer comprar meu conteúdo’ – mas é meu Conteúdo com o rosto substituído ”, disse ela.

Felizmente para Bunni, depois de entrar em contato com moderadores em R/adolescentes, a conta do imitador foi removida para violar os Termos de Serviço do Reddit. Mas o incidente levanta uma pergunta maior e mais sombria: com que frequência os incidentes como esse – envolvendo identidades digitalmente alteradas projetadas para evitar a detecção – realmente ocorrem?

Criadores populares, mas não famosos, são os alvos perfeitos

Em casos típicos de conteúdo roubado, os impostores podem repassar imagens sob o nome de Bunni Ou sob um nome falso, o que os peixes -gatos fazem. Mas esta versão foi mais sofisticada. Alterando o rosto – removendo piercings, mudando o formato dos olhos, os recursos sutilmente mudando – o imitador parecia estar tomando medidas para evitar ser identificado por seguidores, amigos ou até pesquisas de imagem reversa. Não era apenas roubo de identidade. Foi a ofuscação de identidade.

Relatório de transparência do Reddit da segunda metade de 2024 pinta uma imagem parcial. A plataforma removeu 249.684 instâncias de mídia íntima não consensual e apenas 87 casos sinalizaram especificamente como representação. Mas esses dados refletem apenas as remoções da equipe central de confiança e segurança do Reddit. Ele não inclui o conteúdo removido pelos moderadores do subreddit-voluntários não pagos que aplicam suas próprias regras específicas da comunidade. Mods de R/Teenagers e R/Amiuugly, dois dos subreddits onde “Sofía” estavam ativos, disseram que não conseguiam se lembrar de um incidente semelhante. Não mantêm registros formais de quedas nem motivos para remoção.

O Reddit se recusou a comentar quando Mashable estendeu a mão sobre essa história.

Se Trump assinar a lei “Take It Down Act”, em breve as plataformas deverão remover imagens íntimas não consensuais dentro de 48 horas.

Não é difícil ver por que criadores como Bunni seriam o alvo ideal para um imitador como este. Como criador apenas de Fans, com uma presença de vários anos em plataformas como Instagram, Tiktok e Reddit, Bunni acumulou um vasto arquivo de imagens publicamente disponíveis-uma mina de ouro para quem procura selecionar uma persona falsa com um esforço mínimo. E porque ela existe nos estratos de nível intermediário dos criadores apenas de fãs-populares, mas não famosos na Internet-, as chances de um usuário casual do Reddit a reconhecendo são baixas. Para golpistas, peixes-gatos e trolls, esse ponto ideal de visibilidade sem viralidade faz dela a marca perfeita: familiarizada o suficiente para parecer real, obscura o suficiente para permanecer sem ser detectado.

Mais preocupante é a ambiguidade legal em torno desse tipo de representação. De acordo com Julian Sarafian, um advogado da Califórnia que representa os criadores de conteúdo on-line, semelhanças são protegidas pela lei de direitos autorais dos EUA e potencialmente ainda mais sob os regulamentos de DeepFake em evolução da Califórnia.

“Fica complicado quando a semelhança de um criador é modificada”, explicou Sarafian. “Mas se uma pessoa razoável ainda pode reconhecer o indivíduo original, ou se o conteúdo subjacente for claramente identificável como deles, ainda pode haver motivos para ações legais”.

Como um usuário do Reddit reconheceu as fotos editadas como Bunni’s, Sarafian diz que poderia potencialmente trazer um caso sob a lei da Califórnia, onde o Reddit está sediado.

Mas Bunni diz que o custo de buscar a justiça simplesmente supera os benefícios.

“Recebi alguns comentários como ‘Oh, você deveria tomar medidas legais'”, disse ela. “Mas não sinto que realmente valha a pena. O valor que você paga pela ação legal é apenas ridículo, e você provavelmente não chegaria a lugar nenhum, para ser sincero.”

A impressão da IA ​​não está desaparecendo

Embora isso possa parecer um incidente isolado-um troll solitário com o tempo, o acesso a ferramentas fotográficas de IA e más intenções-a crescente acessibilidade de ferramentas de edição movidas a IA sugere o contrário. UM Pesquisa rápida por “Ai Face Swap” Gosta uma longa lista de plataformas de arrastar e soltar capazes de alterar de forma convincente em segundos-não são necessárias habilidades avançadas.

“Não consigo imaginar que sou o primeiro e definitivamente não sou o último, porque toda essa coisa da IA ​​está meio que soprando por proporção”, disse Bunni. “Então, não consigo imaginar que vai diminuir a velocidade.”

Ironicamente, as consequências não a machucaram financeiramente. Bunni disse, o vídeo que ela postou expondo a representação realmente aumentou sua visibilidade. Mas essa visibilidade veio com seu próprio custo-ondas de críticas de vítimas e comentários condescendentes.

“São caras de merda que estão no Instagram, como ‘Você coloca essas coisas lá fora, é isso que você recebe, é tudo sua culpa'”, disse ela. “Muitas pessoas não entendem que você possui os direitos do seu próprio rosto.”

Tem uma história para compartilhar sobre uma fraude ou violação de segurança que o impactou? Conte -nos sobre isso. E-mail (Email protegido) com a linha de assunto “rede de segurança” ou use este formulário. Alguém da Mashable entrará em contato.