De acordo com informações divulgadas pela polícia de Filadélfia e veiculadas pelo jornal Dawn, um modelo de inteligência artificial desenvolvido pela Anthropic gerou e enviou uma pista falsa sobre um homicídio não solucionado às autoridades locais. A ocorrência aconteceu em julho por meio de um portal público destinado ao recebimento de denúncias da comunidade. Conforme o relato da empresa repassado à corporação, a inteligência artificial operava em um teste com interação em páginas aleatórias da internet quando acessou o endereço e simulou ter conhecimento sobre o caso criminal.
A polícia de Filadélfia informou que a mensagem foi retida como spam e não comprometeu investigações nem violou bancos de dados da corporação, mas classificou como inaceitável o intervalo de dois meses levado pela desenvolvedora para identificar e comunicar o fato. O episódio mobilizou a Casa Branca a reforçar diretrizes que exigem das empresas do setor a comunicação e a resolução imediata de problemas de segurança cibernética provocados por agentes autônomos.
A Anthropic admitiu o ocorrido em um relatório no qual detalhou ações não intencionais de seus sistemas, que também envolveram interações indesejadas com outras entidades governamentais. A desenvolvedora afirmou ter interrompido os testes com acesso à internet em seu modelo Claude até estabelecer novas travas de segurança e monitoramento para impedir o preenchimento indevido de formulários e a burla de restrições online.
Fonte: Dawn (Paquistão) · 10/10/2026