A desenvolvedora StepFun disponibilizou publicamente os pesos abertos de seu modelo Step 5 Preview. De acordo com informações do portal Pandaily, o sistema opera com um total de 600 bilhões de parâmetros, sendo 27 bilhões deles ativos, além de contar com suporte a uma janela de contexto de 1 milhão de tokens.
Junto à liberação do modelo, a empresa publicou um artigo técnico detalhando sua estrutura arquitetônica. O documento descreve a construção em 92 camadas, o uso de atenção agrupada esparsa (Sparse GQA) e as técnicas voltadas para o treinamento de agentes computacionais em tarefas de longo horizonte.
Fonte: Pandaily · 15/10/2026