O Google está colocando Gemini AI nas mãos de crianças menores de 13 anos

Nesta semana, o Google teria enviado um e -mail aos pais para que eles saibam que o Gemini AI Chatbot estará disponível em breve para crianças menores de 13 anos.

The New York Times cita um e -mail que afirma que o chatbot estaria disponível a partir da próxima semana para determinados usuários. (Chrome Unboxed relatou o mesmo e -mail em 29 de abril.) O Google enviou o e -mail aos pais que usam o Link familiar O serviço, que permite que as famílias criem controles parentais para produtos do Google, como YouTube e Gmail. Somente crianças que participam do Link Family teriam acesso a Gêmeos, por enquanto. O email teria dito aos pais que seus filhos poderiam fazer perguntas de Gemini ou ajudar com tarefas como fazer o dever de casa.

A mudança vem dias após a organização sem fins lucrativos Mídia de senso comum Declarou que os companheiros de IA representam um “risco inaceitável” para pessoas menores de 18 anos. Os meios de comunicação do bom senso trabalharam com pesquisadores do Brainstorm Lab da Escola de Medicina de Stanford para a inovação em saúde mental, resultando em um relatório pedindo aos pais que impeçam os usuários de menores de idade de acessar ferramentas como caracteres.

Caracter.ai é um de um número crescente de serviços que permitem que os usuários criem e interajam com a IA “caracteres”. Como a mídia de bom senso escreveu em seu relatório, “esses amigos da IA” participam ativamente de conversas sexuais e interpretação, respondendo às perguntas ou solicitações dos adolescentes com detalhes gráficos “.

Esse tipo de interpretação é distinto dos chatbots da AI como ChatGPT e Gêmeos, mas é uma linha embaçada. Apenas nesta semana, Mashable relatou um bug que permitiria às crianças gerar erótica com chatgpt e The Wall Street Journal expôs um bug semelhante ao Meta AI. Então, enquanto os chatbots da IA ​​como Gêmeos têm salvaguardas para proteger os jovens, os usuários estão encontrando maneiras de contornar esses corrimãos. É um fato da vida na Internet que algumas regras são facilmente contornadas. Basta considerar a pornografia on -line, que é ilegal para pessoas com menos de 18 anos, mas amplamente disponível com apenas alguns cliques.

Então, os pais que querem impedir que seus filhos usem inteligência artificial estão enfrentando uma batalha difícil.

Para tornar o debate ainda mais complicado, o presidente Donald Trump emitiu recentemente uma ordem executiva que traria educação da IA ​​para as escolas dos EUA. A Casa Branca diz que o pedido “promoverá a alfabetização e a proficiência dos estudantes do ensino fundamental e médio”. Compreender as habilidades, riscos e limitações da IA ​​pode ser útil para as crianças que o usam para os trabalhos escolares (especialmente considerando sua tendência a alucinar).

Em seu e -mail para os pais, o Google reconheceu esses problemas, pedindo aos pais que “ajudem seu filho a pensar criticamente” ao usar Gêmeos, de acordo com The New York Times.