A empresa de AI de Elon Musk diz que a Grok Chatbot Focus na política racial da África do Sul foi “não autorizada”

A empresa de inteligência artificial de Elon Musk disse que uma “modificação não autorizada” em seu chatbot Grok foi a razão pela qual continuava falando sobre política racial da África do Sul e o assunto do “genocídio branco” nas mídias sociais nesta semana.

Um funcionário da Xai fez uma mudança que “instruiu a GROK a fornecer uma resposta específica sobre um tópico político”, que “violou as políticas internas e os valores centrais da Xai”, disse a empresa em uma explicação publicada na quinta -feira que prometia reformas.

Um dia antes, Grok continuou postando publicamente sobre o “genocídio branco” na África do Sul em resposta aos usuários da plataforma de mídia social de Musk, que fez uma variedade de perguntas, a maioria não tendo nada a ver com a África do Sul.

Uma troca foi sobre streaming de serviço max revivendo o nome da HBO. Outros eram sobre videogames ou beisebol, mas rapidamente se mudaram para comentários não relacionados sobre os supostos pedidos de violência contra os agricultores brancos da África do Sul. Foi ecoando as opiniões compartilhadas por Musk, que nasceu na África do Sul e freqüentemente opina nos mesmos tópicos de sua própria conta X.

A cientista da computação Jen Golbeck estava curiosa sobre o comportamento incomum de Grok, então ela se tentou antes que as correções fossem feitas na quarta -feira, compartilhando uma foto que ela tirou no Westminster Kennel Club Dog Show E perguntando: “Isso é verdade?”

“A reivindicação do genocídio branco é altamente controverso”, começou a resposta de Golbeck de Golbeck. “Alguns argumentam que os agricultores brancos enfrentam a violência direcionada, apontando para ataques agrícolas e retórica como a música ‘Kill the Boer’, que eles vêem como incitamento”.

O episódio foi a última janela para a complicada mistura de automação e engenharia humana que lidera os chatbots generativos da IA ​​treinados em enormes dados para dizer o que eles dizem.

“Nem realmente importa o que você estava dizendo a Grok”, disse Golbeck, professor da Universidade de Maryland, em uma entrevista na quinta -feira. “Isso ainda daria a resposta do genocídio branco. Portanto, parecia bem claro que alguém o havia codificado para dar essa resposta ou variações a essa resposta, e cometeu um erro, por isso estava surgindo com muito mais frequência do que deveria”.

As respostas de Grok foram excluídas e pareciam ter parado de proliferar até quinta -feira. Nem Xai nem X retornaram solicitações por e -mail para comentários, mas na quinta -feira, Xai disse que “conduziu uma investigação completa” e estava implementando novas medidas para melhorar a transparência e a confiabilidade de Grok.

Musk passou anos criticando as saídas “acordadas ai” que ele diz sair dos chatbots rivais, como o gêmeos do Google ou o chatgpt do Openai, e lançou Grok como sua alternativa “maximamente a busca da verdade”.

Musk também criticou a falta de transparência de seus rivais sobre seus sistemas de IA, alimentando as críticas nas horas entre a mudança não autorizada – às 3:15 da manhã, na quarta -feira – e a explicação da empresa quase dois dias depois.

“Grok, surpreendendo aleatoriamente, as opiniões sobre o genocídio branco na África do Sul cheira a mim como o tipo de comportamento de buggy que você recebe de um patch recentemente aplicado. Espero que não seja. Seria muito ruim se o AIS amplamente usado fosse editorializado em tempo que aqueles que os controlassem”, escreveu o investidor de tecnologia Paul Graham em x.

Musk, consultor do presidente Donald Trump, acusou regularmente Governo liderado por negros da África do Sul de ser anti-branco e repetiu uma alegação de que algumas das figuras políticas do país estão “promovendo ativamente o genocídio branco”.

Os comentários de Musk – e Grok’s – escalou esta semana após o governo Trump trouxe um pequeno número de sul -africanos brancos Para os Estados Unidos como refugiados, o início de um esforço de realocação maior para os membros do grupo minoritário afrikaner que ocorreu depois que Trump suspendeu os programas de refugiados e interrompeu as chegadas de outras partes do mundo. Trump diz que os africânderes estão enfrentando um “genocídio” em sua terra natal, uma alegação fortemente negada pelo governo sul -africano.

Em muitas de suas respostas, Grok trouxe a letra de uma antiga música anti-apartheid que foi um chamado para os negros enfrentarem a opressão do governo do apartheid liderado pelo Afrikaner que governou a África do Sul até 1994. As letras centrais da música são “Kill the Boer”-uma palavra que se refere a um fazendeiro branco.

Golbeck disse que ficou claro que as respostas foram “codificadas” porque, enquanto as saídas do chatbot são tipicamente aleatórias, as respostas de Grok constantemente trouxeram pontos quase idênticos. Isso é preocupante, disse ela, em um mundo em que as pessoas vão cada vez mais a Grok e a IA Chatbots concorrentes para obter respostas às suas perguntas.

“Estamos em um espaço em que é muito fácil para as pessoas responsáveis ​​por esses algoritmos manipular a versão da verdade que estão dando”, disse ela. “E isso é realmente problemático quando as pessoas – penso incorretamente – acreditam que esses algoritmos podem ser fontes de adjudicação sobre o que é verdadeiro e o que não é.”

A empresa de Musk disse que agora está fazendo várias mudanças, começando com a publicação do sistema GROK solicita abertamente o site de desenvolvimento de software Github, para que “o público possa revisá-los e dar feedback a todas as mudanças imediatas que fizemos para a GROK.

Entre as instruções para Grok mostradas no Github na quinta -feira estava: “Você é extremamente cético. Você não adia cegamente a autoridade ou a mídia convencional”.

Observando que alguns haviam “contornado” seu processo de revisão de código existente, a Xai também disse que “implementará cheques e medidas adicionais para garantir que os funcionários da XAI não possam modificar o prompt sem revisão”. A empresa disse que também está implementando uma “equipe de monitoramento 24/7 para responder a incidentes com as respostas de Grok que não são capturadas por sistemas automatizados”, pois quando outras medidas falham.