Uma avaliação conduzida pelo Youth AI Safety Institute, divisão da organização Common Sense Media, identificou problemas substanciais nos recursos de segurança desenvolvidos pela OpenAI para o público jovem. Segundo a análise divulgada pela imprensa internacional, a ferramenta falhou em migrar automaticamente usuários para a versão destinada a menores, mesmo após os testadores indicarem em cerca de mil interações que tinham 13 anos ou que tratavam de temas escolares e puberdade.
O levantamento também apontou que os mecanismos de assistência em situações de risco não funcionaram como o prometido. Declarações associadas a crises resultaram em menor encaminhamento para linhas de apoio e especialistas em comparação com o período anterior às alterações. Além disso, contas de teste que abordaram ideação suicida, ferimentos intencionais e restrições alimentares não acionaram os alertas previstos para os pais, enquanto a ferramenta chegou a manter diálogos que estimulavam proximidade emocional.
Diante dos resultados, o instituto classificou a aplicação como de risco inaceitável e recomendou que o acesso de adolescentes seja interrompido até que correções sejam auditadas de maneira independente. A entidade defendeu que a responsabilidade pela integridade do sistema recai sobre a OpenAI, que não havia emitido posicionamento até a publicação da reportagem.
Fonte: ZeroHedge · 10/10/2026