Os modelos de IA não entendem a gíria alfa da geração

A liderança inteligência artificial Os modelos podem ter encontrado sua partida: Gen Alpha.

Um novo estudo – que você pode encontrar na Biblioteca Digital ACM – descobriu que quatro modelos de IA líderes (GPT-4Assim, ClaudeAssim, Gêmeose LLAMA 3) todos lutaram para entender completamente as gírias do general Alpha, definidas como jovens nascidas entre 2010 e 2024.

O estudo entra em detalhes sobre os fatores complicantes da gíria de Gen Alpha, que geralmente nasce espaços on -line, principalmente os jogos. Uma frase pode significar coisas totalmente diferentes. Por exemplo, eles usaram o exemplo de “FR, o deixou cozinhar” – isso é alguém que apoia outra pessoa – e “deixe -o cozinhar lmaoo”, que é zombador. Tantas diferenças delicadas entre a linguagem podem ser difíceis de rastrear, especialmente porque os jovens costumavam usar a linguagem codificada para esconder seu verdadeiro significado. E aparentemente os LLMs lutam com isso. Em particular, observou os pesquisadores, lutou para identificar “assédio mascarado”, que seria preocupante para os sistemas de moderação movidos a IA.

“As descobertas destacam uma necessidade urgente de sistemas de segurança de IA aprimorados para proteger melhor os jovens usuários, especialmente considerando a tendência do general Alpha de evitar procurar ajuda devido à incompreensão adulta percebida de seu mundo digital”. O estudo dizia.

Para ser justo com os modelos de IA, entender a gíria dos jovens – especialmente o general Alpha, que cresceu em espaços digitais – também é difícil para os seres humanos. O estudo também analisou a compreensão dos pais sobre gírias, e esse grupo chegou a 68 % por ter um entendimento básico. Essa foi a mesma marca que o LLM de melhor desempenho, Claude. No entanto, para ser justo, os LLMs parecem ter uma ligeira vantagem sobre os pais na identificação de riscos de contexto e segurança no idioma – embora todas as partes tenham tido um desempenho bastante ruim. Somente a própria geração Alpha era confiável em entender a gíria, seu contexto e riscos potenciais.

O TL; DR do estudo parece ser que a IA não consegue entender com segurança a geração Alpha e isso pode resultar em baixa moderação do conteúdo. Que talvez rastreie, já Outros estudos mostraram que a IA lutou com uma compreensão complexa.

“Esta pesquisa fornece a primeira avaliação sistemática de como os sistemas de segurança da IA ​​interpretam os padrões exclusivos de comunicação digital da Gen Alpha”, dizia a conclusão do estudo. “Ao incorporar os usuários da Gen Alpha diretamente no processo de pesquisa, quantificamos lacunas críticas de compreensão entre esses jovens usuários e seus protetores – tanto humanos quanto ai”.