Personagem.ai adiciona relatórios parentais para uso de chatbot adolescente
O Chatbot Service Caracter.Ai está adicionando um novo recurso de ‘Insights Parental’, que permite que os adolescentes enviem um relatório semanal do uso do chatbot para o endereço de e -mail de um pais. Conforme descrito em um anúncio da empresa, este relatório inclui o tempo médio diário gasto na Web e no celular, os personagens com os quais um usuário interagiu com mais frequência e quanto tempo eles passaram conversando com cada personagem. Faz parte de uma série de atualizações projetadas para abordar preocupações sobre menores que passam muito tempo com chatbots e encontrando conteúdo inadequado durante os bate -papos.
O relatório, que não exige que os pais tenham uma conta, é opcional e podem ser configurados por usuários menores nas configurações do personagem.ai. A empresa observa que é uma visão geral da atividade dos adolescentes, não um registro completo – portanto, o conteúdo das conversas do chatbot não será compartilhado. A plataforma impede crianças menores de 13 anos na maioria dos locais e menores de 16 anos na Europa.
O Caracter.Ai vem introduzindo novos recursos para usuários de menores de idade desde o ano passado, coincidindo com preocupações – e até queixas legais – sobre seu serviço. A plataforma, que é popular entre os adolescentes, permite que os usuários criem e personalizem chatbots com os quais interagem ou compartilham publicamente. Porém, vários processos alegam que esses bots ofereceram conteúdo ou material ou material de se sexualizado inadequadamente que promoveu a auto-prejudicação. Ele também recebeu avisos da Apple e do Google (que contratou os fundadores da personagem.ai no ano passado) sobre o conteúdo de seu aplicativo.
A empresa diz que seu sistema foi redesenhado; Entre outras mudanças, ele moveu os usuários sub-18 para um modelo treinado para evitar a saída “sensível” e adicionar notificações mais proeminentes, lembrando aos usuários que os bots não eram pessoas reais. Mas com o entusiasmo pela regulamentação da IA e pelas leis de segurança infantil em expansão, provavelmente não será o último passo que a empresa é chamada a dar.
