02 · Tema 2 de 3 · máx. 4,09k views frio (calor 1 de 5; máx. 4,09k views)
SemiAnalysis descreve HySparse2 para a próxima geração do Xiaomi MiMo
Calor: o quanto o assunto está em alta no mercado agora, não opinião da redação.

A SemiAnalysis publicou em 07/11, às 15h57 BRT, uma descrição da arquitetura HySparse2, que atribui à próxima geração do Xiaomi MiMo. A proposta separa a leitura do pedido da geração da resposta e, segundo o veículo, faz a entrada passar por 25 de 49 camadas de processamento. O relato também aponta menor custo de preparação e menor memória temporária em comparação com MiMo-V2. Os números e a adoção pela fabricante estão NÃO CONFIRMADOS na página oficial; a publicação não estabelece a disponibilidade de um novo produto.

Post âncora
CONFIRMADOSemiAnalysis — relato técnico
SemiAnalysis descreve a arquitetura HySparse2 da Xiaomi MiMo
@SemiAnalysis_ ·
Segundo a SemiAnalysis, a próxima geração do Xiaomi MiMo usará HySparse2, com pedidos passando por 25 de 49 camadas. O veículo afirma haver menos processamento inicial e menor memória temporária que no MiMo-V2.
Depois do DeepSeek V4.1 Flash, a Xiaomi MiMo está migrando para um codificador-decodificador causal em seus modelos de próxima geração.
HySparse2: os prompts passam por apenas 25 de 49 camadas. O KV do decodificador é projetado a partir dos estados do codificador.
Com contexto de 1M em comparação com MiMo-V2: 5x menos processamento de preenchimento inicial, cache KV 4.5x menor.
Ver original (texto do post como foi publicado)
After DeepSeek V4.1 Flash, Xiaomi MiMo is moving to a causal encoder-decoder for its next-gen models.
HySparse2: prompts run through only 25 of 49 layers. Decoder KV is projected from encoder states.
At 1M context vs MiMo-V2: 5x less prefill compute, 4.5x smaller KV cache.