Imagine que você se encontra alguém novo. Seja em um aplicativo de namoro ou nas mídias sociais, você se acrescenta on -line e começa a conversar. Eles são genuínos e relacionáveis, então você rapidamente o retira do DMS para uma plataforma como o Telegram ou o WhatsApp. Você troca fotos e até mesmo videochamadas. Você começa a se sentir confortável. Então, de repente, eles trazem dinheiro.
Eles precisam que você cubra o custo do acesso Wi-Fi, talvez. Ou eles estão experimentando essa nova criptomoeda. Você realmente deveria entrar mais cedo! E então, somente depois que é tarde demais, você percebe que a pessoa com quem você estava conversando não era realmente real.
Eles eram um DeepFake de AI em tempo real, escondendo o rosto de alguém que faz uma farsa.
Esse cenário pode parecer muito distópico ou ficcional científico para ser verdadeiro, mas aconteceu com inúmeras pessoas já. Com o pico nas capacidades da IA generativa nos últimos anos, os golpistas agora podem criar rostos e vozes falsos realistas para mascarar a sua própria em tempo real. E os especialistas alertam que esses deepfakes podem sobrecarregar uma variedade estonteante de golpes on -line, do romance ao emprego e à fraude tributária.
David Maimon, chefe de insights de fraude da empresa de verificação de identidade Sentilink e professor de criminologia na Universidade Estadual da Geórgia, acompanha a evolução dos golpes de romance da IA e outros tipos de fraude de IA nos últimos seis anos. “Estamos vendo um aumento dramático no volume de de DeepFakes, especialmente em comparação com 2023 e 2024”, diz Maimon.
“Não era muito. Estamos falando de quatro ou cinco por mês”, diz ele. “Agora, estamos vendo centenas delas mensalmente em geral, o que é impressionante.”
DeepFakes já está sendo usado em uma variedade de golpes on -line. Um trabalhador financeiro em Hong Kong, por exemplo, pagou US $ 25 milhões a um golpista se apresentando como diretor financeiro da empresa em uma videochamada de profundidade. Alguns golpistas de Deepfake até postaram Vídeos de instrução No YouTube, que tem um aviso de isenção de isenção de “brincadeiras e fins educacionais apenas”. Esses vídeos geralmente abrem com uma chamada de romance, onde um jovem bonito gerado pela IA está conversando com uma mulher mais velha.
DeepFakes mais tradicionais-como um vídeo pré-renderizado de uma celebridade ou político, em vez de uma falsa ao vivo-também se tornou mais prevalente. No ano passado, um aposentado na Nova Zelândia perdeu cerca de US $ 133.000 a uma farsa de investimento em criptomoeda depois de ver um anúncio no Facebook com um Primeiro Ministro do Primeiro Ministro do país, incentivando as pessoas a comprar.
Maimon diz que o Sentilink começou a ver os deepfakes usados para criar contas bancárias para alugar um apartamento ou se envolver em fraude de reembolso de imposto. Ele diz que um número crescente de empresas também viu os DeepFakes em entrevistas de emprego em vídeo.
“Qualquer coisa que exija que as pessoas estejam online e que apóie a oportunidade de trocar rostos com alguém – que estará disponível e aberto para a fraude aproveitar”, diz Maimon.
