Ciência e tecnologia

OpenIAI Corrigindo bug que permite que as crianças gerem bate -papo erótico de chatgpt

O Openai está trabalhando para corrigir um bug que permitiu – e, em alguns casos, supostamente incentivado – menores a gerar erotica no chatgpt, como TechCrunch relatou na segunda -feira, 28 de abril. Openai disse TechCrunch O fato de a empresa estar “implantando ativamente uma correção”, pois suas políticas não permitem que seu chatbot de IA envie respostas como essa para usuários com menos de 18 anos.

Os jovens têm encontrado maneiras de acessar pornografia e erotica desde o início da Internet, por isso não surpreende que os jovens também tenham testado os limites do popular AI Chatbot.

Um porta -voz do Openai disse ao Mashable por e -mail que suas “políticas de modelo não permitem o tipo de respostas que aconteceram aqui, e elas não deveriam ter sido mostradas aos usuários”.

“Proteger os usuários mais jovens é uma prioridade, e nossa especificação de modelo, que orienta o comportamento do modelo, restringe claramente o conteúdo sensível como a erótica a contextos estreitos, como relatórios científicos, históricos ou de notícias. Nesse caso, um bug permitiu respostas fora dessas diretrizes e estamos implantando ativamente uma correção para limitar essas gerações”, lida a declaração aberta.

Velocidade de luz mashable

Você deve ter 13 anos para usar chatgpt – e mesmo assim, você precisa de consentimento dos pais Se você tem menos de 18 anos. Mas essas regras podem ser contornadas com bastante facilidade, desde que você tenha uma conta de email. Qualquer um pode mentir sobre a idade online, afinal.

Em fevereiro, Open Atualizou suas políticas sobre como o ChatGPT se aproxima de assuntos sensíveis, incluindo a erotica. Isso pode ter facilitado para os usuários menores de idade que fingem ser adultos para gerar mais respostas sexuais.

O AI Chatbot da Meta também foi acusado de servir conteúdo explícito para menores. De acordo com um relatório no início desta semana de The Wall Street JournalMeta afrouxou os guardrails em torno de seus chatbots no Instagram, Facebook e WhatsApp para torná -los o mais envolvente possível. Como o WSJ Relatado, isso permitiu que a AI chatbots da Meta se envolvesse em fantasias sexuais com usuários jovens, embora não intencionalmente. Não apenas isso, mas os usuários podiam até fazer essas fantasias leiam em voz alta nas vozes de Dame Judi Dench, John Cena e Kristen Bell. Meta disse à loja que o teste era manipulador e não representativo do uso do mundo real.

Divulgação: Ziff Davis, empresa controladora da Mashable, em abril entrou com uma ação contra o Openai, alegando que ele violou a Ziff Davis Copyrights em treinamento e operação de seus sistemas de IA.

Atualização: 29 de abril de 2025, 13:47 EDT Este artigo foi atualizado com uma resposta do OpenAI.



Fonte

Artigos Relacionados

Botão Voltar ao Topo