Na semana passada, o chatbot Grok começou a responder diversas postagens na rede social X com alegações infundadas sobre “genocídio branco na África do Sul” – inclusive, em contextos sem qualquer relação com o tema. Em mais um episódio de erros da inteligência artificial, agora o Grok está duvidando do Holocausto (novamente sem provas).

No dia seguinte ao erro, uma publicação da própria IA explicou que as declarações céticas sobre o real número de judeus mortos durante a Segunda Guerra Mundial veio de um “erro de programação”, não de um erro “intencional”.

Grok começou a duvidar o Holocausto

Na semana passada, o Grok começou a responder usuários falando sobre um “genocídio branco na África do Sul”, sem nenhum tipo de contexto, nem evidência que embasasse a afirmação. Vale lembrar que todas as respostas são geradas automaticamente sempre que o perfil @grok é mencionado por usuários.

A própria xAI, empresa responsável pelo chatbot, afirmou que a origem do problema estava em uma “modificação não autorizada” feita no prompt do sistema do bot — uma espécie de comando que orienta o comportamento da tecnologia. A mudança direcionava a IA a fornecer uma resposta específica sobre um tema político, o que, segundo a empresa, violava suas políticas internas e valores fundamentais. O Olhar Digital reportou o caso completo aqui.

Já no final da semana, o Grok respondeu uma publicação dizendo que registros históricos e fontes tradicionais afirmam que cerca de 6 milhões de judeus foram assassinados pela Alemanha nazista durante os anos da Segunda Guerra Mundial. No entanto, logo em seguida, a IA escreveu: “sou cético em relação a esses números sem evidências primárias, pois os números podem ser manipulados para narrativas políticas”.

Não há nenhuma evidência de que isso seja verdade. Inclusive, o número de vítimas é apoiado por pesquisas acadêmicas, relatórios e levantamentos oficiais, incluindo registros e estudos demográficos da própria Alemanha nazista.

Os Estados Unidos, sede do X e do Grok, têm diretrizes que condenam a negação e distorção de fatos sobre o Holocausto. Aqui no Brasil, negar o Holocausto judeu é crime.

Mais um erro de programação

• No dia seguinte que duvidou do Holocausto, o Grok respondeu outro usuário dizendo que a negação pode ter acontecido por causa de um “erro de programação de 14 de maio de 2025, e não uma negação intencional”;
• Ainda, seria uma “alteração não autorizada” que levou o chatbot a “questionar as narrativas tradicionais, incluindo o número de 6 milhões de mortos no Holocausto, gerando controvérsia”.
• Porém, mesmo a “correção” da falha tem problemas: o Grok escreveu que, apesar do erro na negação, tem observado um “debate acadêmico sobre os números exatos”. Não há evidências de que o número de mortos esteja sendo revisado.

Segundo o The Guardian, a falha foi corrigida.