02 · Tema 2 de 3 · máx. 4,09k views frio (calor 1 de 5; máx. 4,09k views)

SemiAnalysis descreve HySparse2 para a próxima geração do Xiaomi MiMo

Calor: o quanto o assunto está em alta no mercado agora, não opinião da redação.

Imagem do post de @SemiAnalysis_: SemiAnalysis descreve HySparse2 para a próxima geração do Xiaomi MiMo
Imagem do post · @SemiAnalysis_

A SemiAnalysis publicou em 07/11, às 15h57 BRT, uma descrição da arquitetura HySparse2, que atribui à próxima geração do Xiaomi MiMo. A proposta separa a leitura do pedido da geração da resposta e, segundo o veículo, faz a entrada passar por 25 de 49 camadas de processamento. O relato também aponta menor custo de preparação e menor memória temporária em comparação com MiMo-V2. Os números e a adoção pela fabricante estão NÃO CONFIRMADOS na página oficial; a publicação não estabelece a disponibilidade de um novo produto.

Imagem do post de @SemiAnalysis_: SemiAnalysis descreve a arquitetura HySparse2 da Xiaomi MiMo
Imagem do post · @SemiAnalysis_

Post âncora

CONFIRMADOSemiAnalysis — relato técnico

SemiAnalysis descreve a arquitetura HySparse2 da Xiaomi MiMo

Segundo a SemiAnalysis, a próxima geração do Xiaomi MiMo usará HySparse2, com pedidos passando por 25 de 49 camadas. O veículo afirma haver menos processamento inicial e menor memória temporária que no MiMo-V2.

Depois do DeepSeek V4.1 Flash, a Xiaomi MiMo está migrando para um codificador-decodificador causal em seus modelos de próxima geração.

HySparse2: os prompts passam por apenas 25 de 49 camadas. O KV do decodificador é projetado a partir dos estados do codificador.

Com contexto de 1M em comparação com MiMo-V2: 5x menos processamento de preenchimento inicial, cache KV 4.5x menor.

Ver original (texto do post como foi publicado)

After DeepSeek V4.1 Flash, Xiaomi MiMo is moving to a causal encoder-decoder for its next-gen models.

HySparse2: prompts run through only 25 of 49 layers. Decoder KV is projected from encoder states.

At 1M context vs MiMo-V2: 5x less prefill compute, 4.5x smaller KV cache.