Qwen3.8-Flash-Next antecipa a arquitetura da série Qwen4

A equipe Qwen, do Alibaba, publicou em 26 de agosto de 2026 o Qwen3.8-Flash-Next, um modelo multimodal de mistura de especialistas (MoE) cujos pesos foram liberados publicamente. O anúncio tem um alvo declarado que vai além do modelo em si: trata-se de uma prévia da arquitetura que será usada na futura família Qwen4, divulgada antes do lançamento para que a comunidade possa examiná-la.

A estratégia repete o que o laboratório fez com o Qwen3-Next em relação ao Qwen3.5. Naquela ocasião, o desenho híbrido que combinava Gated DeltaNet e Gated Attention foi apresentado isoladamente e depois adotado ao longo das séries Qwen3.5, Qwen3.6, Qwen3.7 e Qwen3.8. O Qwen3.8-Flash-Next cumpre o mesmo papel agora, com mudanças em quatro frentes: atenção, conexões residuais, embeddings e otimização.

Os pesos foram publicados no Hugging Face e no ModelScope em 27 de agosto, em versão padrão e em variante FP8. Uma verificação do arquivo de configuração do repositório mostra que o tipo de modelo declarado é qwen4_exp, com a classe de arquitetura Qwen4ExpForConditionalGeneration — confirmação técnica, no próprio artefato publicado, de que o que está sendo distribuído é de fato o protótipo da próxima geração.

Números do Qwen3.8-Flash-Next

O modelo tem 125 bilhões de parâmetros no bloco principal, acrescidos de 51 bilhões de parâmetros em embeddings de n-gramas, com apenas 6 bilhões de parâmetros ativados por token. O contexto nativo é de 262.144 tokens, extensível a 1 milhão com a técnica YaRN.

Segundo a Qwen, o treinamento do novo modelo custou cerca de um nono do que custou o Qwen3.7-Plus, com desempenho superior em tarefas de programação e de trabalho de escritório. A versão de produção, servida na QwenCloud sob o nome qwen3.8-flash, é cobrada a US$ 0,15 por milhão de tokens de entrada e US$ 0,47 por milhão de tokens de saída.

O que mudou na arquitetura

Atenção: GDN mais QSA

O modelo mantém o híbrido introduzido no Qwen3.5: três de cada quatro camadas usam Gated DeltaNet (GDN), que comprime continuamente o histórico em um estado de tamanho fixo, enquanto a quarta camada usa atenção global para recuperação precisa em todo o contexto. O arquivo de configuração publicado confirma esse arranjo com o parâmetro full_attention_interval definido como 4.

A novidade está na camada de atenção global, que passa a usar o que a equipe chama de Qwen Sparse Attention (QSA). Métodos de atenção esparsa reduzem o custo em sequências longas atendendo apenas ao contexto considerado importante, mas as abordagens existentes dependem de um indexador em nível de token para identificar essas posições — e, à medida que o contexto cresce, o próprio indexador passa a consumir computação significativa.

O QSA ataca esse gargalo: um indexador leve agrega a sequência em microblocos, estima a importância no nível do bloco e só então seleciona as regiões relevantes. A redução, portanto, atinge tanto o custo da atenção quanto o custo da indexação. Diferentemente de abordagens que compartilham índices entre camadas, o QSA faz a compressão de forma independente em cada camada, o que reduz a dependência de similaridade entre camadas e se ajusta melhor a arquiteturas híbridas, em que camadas GDN e de atenção se intercalam.

Os ganhos declarados de eficiência são expressivos. Com contexto de 1 milhão de tokens, o núcleo de atenção do QSA atinge, segundo a Qwen, aceleração de até 7,6 vezes no preenchimento inicial (prefill) e 4,9 vezes na decodificação. Em um cenário experimental representativo de serviço on-line com alta reutilização de cache — 90% de acerto em cache de prefixo —, o modelo alcança 8,6 vezes a vazão de preenchimento do Qwen3.7-Plus no mesmo comprimento de contexto.

Residual com portas

Em um Transformer tradicional, todas as camadas leem e escrevem no mesmo fluxo residual. Conforme a rede fica mais profunda, as características iniciais são repetidamente misturadas com informação posterior, e sinais importantes tendem a se diluir.

O Gated Residual (GR) alarga esse fluxo único em quatro ramos paralelos — o arquivo de configuração registra hc_count igual a 4 — e controla, por meio de uma porta dinâmica dependente do conteúdo, quanto ler de cada ramo e quanto escrever de volta. A equipe relata que, na análise empírica, um dos ramos emerge naturalmente como um caminho de longo alcance ligando a primeira camada de atenção à maior parte das camadas intermediárias e finais. O estado residual admite armazenamento em FP8, o que reduz o tráfego de memória.

Embedding de n-gramas

Inspirado no Per-Layer Embedding do Gemma 3n e em trabalhos como o DeepSeek Engram, o modelo adiciona uma camada de embedding que faz consultas não por token isolado, mas pelo contexto local formado pelo token atual e alguns anteriores. Isso cria representações adicionais para expressões comuns e padrões locais.

A vantagem central é econômica: acrescenta grande quantidade de parâmetros com quase nenhum custo computacional adicional por token. Como as posições de consulta podem ser determinadas antecipadamente, os 51 bilhões de parâmetros dessa tabela podem ficar na memória do host e ser buscados de forma assíncrona, em paralelo com a computação do modelo, sem ocupar permanentemente a memória da GPU. A Qwen registra explicitamente que esses parâmetros são endereçados de forma determinística e não entram no orçamento de multiplicação de matrizes por token — detalhe importante para quem for comparar o modelo com concorrentes pelo número total de parâmetros.

Otimização

O treinamento usa o otimizador Muon, com ajustes em três frentes: precisão da ortogonalização, divisão de responsabilidade entre Muon e AdamW, e separação de matrizes de parâmetros fundidas. Parâmetros que atuam efetivamente como transformações lineares bidimensionais — pesos principais de atenção, GDN e especialistas do MoE — usam Muon; embeddings, o roteador do MoE e os parâmetros de baixo posto do GR seguem com AdamW.

Um achado prático merece destaque: a equipe relata que o aquecimento gradual do tamanho de lote, prática comum em treinamento de larga escala, deixou de ser necessário. Aumentar progressivamente até o lote alvo não melhorou o resultado final e exigiu 18,8% mais passos do otimizador. A receita final parte diretamente do tamanho de lote alvo.

Desempenho declarado

Os resultados publicados pela Qwen são autorrelatados e devem ser lidos com a cautela habitual para avaliações feitas pelo próprio fabricante. Feita a ressalva, alguns números chamam atenção pela distância em relação ao modelo anterior da casa. No DeepSWE 1.1, de programação agêntica, o Qwen3.8-Flash-Next marca 58,7 contra 16,5 do Qwen3.7-Plus. No CoWorkBench, um teste interno de tarefas de escritório de longo horizonte, são 73,9 contra 65,1. No JobBench, 55,7 contra 27,6. Em uso de ferramentas do mundo real (Toolathlon Verified), 73,5 contra 50,6.

Em benchmarks mais consolidados o quadro é de paridade, não de salto: 91,7 no GPQA Diamond e 91,9 no LiveCodeBench v6, ambos próximos dos concorrentes citados na tabela do anúncio. No HLE, teste de raciocínio multidisciplinar, o modelo marca 35,9, abaixo dos 40,0 atribuídos ao Claude Opus 4.6.

Dois pontos de cautela metodológica aparecem nas próprias notas de rodapé da Qwen. O CoWorkBench e o RecreationBench são benchmarks internos, não auditáveis por terceiros. E, no SWE-bench Pro, a equipe informa ter corrigido tarefas problemáticas e reavaliado os modelos de comparação sobre a versão refinada — procedimento defensável, mas que impede a comparação direta com pontuações publicadas por outros laboratórios.

Na comparação de modelos base, com apenas 6 bilhões de parâmetros ativados, o Qwen3.8-Flash-Next-Base obtém o melhor resultado em 8 dos 14 benchmarks apresentados, incluindo MMLU-Pro, SuperGPQA, BBH, GSM8K, EvalPlus, SWEBench-Pretrain, MGSM e MMMLU, ficando próximo do Qwen3.7-Plus-Base nos demais.

A licença é menos aberta do que “pesos abertos” sugere

Aqui está o ponto que merece a atenção de qualquer equipe brasileira avaliando adoção. A verificação do arquivo de licença no repositório do Hugging Face mostra que o modelo é distribuído sob a Qwen Community License 1.0, e não sob uma licença permissiva clássica como MIT ou Apache 2.0.

O texto concede amplos direitos de uso, cópia, modificação, distribuição, sublicenciamento, venda, hospedagem, ajuste fino e criação de obras derivadas, mas impõe duas condições relevantes:

• Produtos ou serviços comerciais com mais de 100 milhões de usuários ativos mensais ou mais de US$ 20 milhões de receita mensal precisam exibir o nome do modelo de forma proeminente na interface do usuário.
• Empresas que operem negócio de “modelo como serviço” (MaaS) ou de “assistente de trabalho com IA” precisam obter licença separada da Qwen antes de usar o modelo para qualquer finalidade comercial. A exigência não se aplica ao uso interno, desde que o modelo, suas saídas e suas capacidades não sejam disponibilizados a terceiros.

A definição de MaaS no próprio texto é dar a terceiros acesso a inferência ou ajuste fino de modo que esses terceiros exerçam controle significativo sobre entradas, parâmetros ou dados de treinamento. Para uma empresa que quer usar o modelo internamente, portanto, a licença é confortável. Para uma provedora de nuvem, uma startup de API ou uma plataforma que revenda inferência, ela cria uma barreira contratual explícita — algo distinto do licenciamento MIT que a DeepSeek vinha praticando em seus lançamentos recentes.

Impactos, oportunidades e limitações

Do lado favorável, a proposta atende diretamente ao problema de custo que trava a adoção de agentes em produção. Um modelo com 6 bilhões de parâmetros ativados por token, contexto de 1 milhão e ganhos de vazão da ordem de 8 vezes em cenários com cache de prefixo alto muda a conta de aplicações que fazem muitas chamadas curtas sobre um mesmo contexto longo — assistentes de código, automação de fluxos de escritório e pipelines com uso intensivo de ferramentas.

A publicação antecipada da arquitetura também tem valor real para pesquisa. Ideias como o indexador em nível de bloco do QSA, o residual de múltiplos ramos e a memória de padrões locais endereçada deterministicamente são componentes reutilizáveis, e liberá-los antes do Qwen4 permite escrutínio independente antes que a família inteira seja construída sobre eles.

As limitações são igualmente concretas. Os benchmarks são do próprio fabricante e dois deles são internos. Os ganhos de eficiência citados foram medidos em condições específicas — 1 milhão de tokens de contexto e 90% de acerto em cache de prefixo — que não representam a carga típica de muitas aplicações; fora desse regime, a vantagem tende a ser menor. A infraestrutura necessária para servir 125 bilhões de parâmetros mais uma tabela de 51 bilhões em memória de host não é trivial, o que na prática empurra parte dos interessados para a API paga em vez do autohospedado. E a arquitetura é experimental por definição: o próprio anúncio a apresenta como prévia sujeita a refinamento até o Qwen4.

Conclusão

O Qwen3.8-Flash-Next é menos um lançamento de produto e mais uma peça de engenharia colocada em exame público. As quatro mudanças que ele consolida — atenção esparsa por microblocos, residual com múltiplos ramos e portas, memória de n-gramas de baixo custo e otimização com Muon recalibrada — apontam para a mesma direção: aumentar capacidade sem aumentar proporcionalmente o custo por token, que é o problema central da economia de inferência hoje.

O que observar a seguir: reproduções independentes dos ganhos de vazão do QSA fora das condições ideais relatadas, avaliações de terceiros nos benchmarks públicos, e como o mercado reage à Qwen Community License 1.0 — especialmente entre provedores de nuvem e empresas de API brasileiras, para quem a cláusula de modelo como serviço não é detalhe jurídico, mas condição de negócio.

Fontes e referências

• Qwen (Alibaba) — Qwen3.8-Flash-Next: A New Architecture, Towards Ultimate Cost-Efficiency
• Hugging Face — Repositório oficial dos pesos do Qwen3.8-Flash-Next
• Hugging Face — Qwen Community License 1.0 (texto integral)
• Hugging Face — Arquivo de configuração do modelo com os parâmetros de arquitetura
• Qwen (Alibaba) — Índice de pesquisa e lançamentos da equipe Qwen

Imagem destacada: diagrama de arquitetura publicado pela equipe Qwen (Alibaba Group) na documentação oficial do modelo Qwen3.8-Flash-Next no Hugging Face, distribuído com o modelo sob a Qwen Community License 1.0. Copyright (c) 2026 Qwen.