04 · Tema 4 de 4 · máx. 624 views frio (calor 1 de 5; máx. 624 views)

Teste do MiMo mostra espera maior antes da resposta com entrada longa

Calor: o quanto o assunto está em alta no mercado agora, não opinião da redação.

Imagem do post de @ashen_one: Teste do MiMo mostra espera maior antes da resposta com entrada longa
Imagem do post · @ashen_one

Em 03/10, às 16h00 BRT, @ashen_one publicou um teste que atribui ao mimo v2.6 flash em seu m5 ultra. Ao aumentar a entrada de 8k para 200k unidades de texto, chamadas tokens, o autor informa queda de 65.70 para 37.68 tokens por segundo na geração da resposta e aumento de 8.418 para 392.706 segundos no processamento inicial. O resultado ilustra que uma resposta rápida depois de começar pode esconder uma espera longa antes do primeiro trecho. É um teste de usuário abaixo da barra de alcance, sem comparação equivalente com m3 ou confirmação independente.

Imagem do post de @ashen_one: Teste do MiMo compara velocidade com entradas de 8k e 200k
Imagem do post · @ashen_one

Post âncora

BUILDERashen, autor do teste

Teste do MiMo compara velocidade com entradas de 8k e 200k

O autor relata 65.70 tokens por segundo com entrada de 8k e 37.68 com 200k ao executar mimo v2.6 flash em seu m5 ultra. Diz que o processamento inicial passou de 8.418 para 392.706 segundos e que ainda não há comparação equivalente com m3.

mimo v2.6 flash no meu m5 ultra: 65.70 tok/s com 8k, 37.68 com 200k

geração 43% mais lenta, mas o maior impacto é no processamento do pedido

8.418 segundos → 392.706 segundos

transmissão rápida da resposta ainda significa esperar minutos antes nenhuma comparação equivalente com m3 ainda

Ver original (texto do post como foi publicado)

mimo v2.6 flash on my m5 ultra: 65.70 tok/s at 8k, 37.68 at 200k

43% slower generation, but the bigger hit is processing the prompt

8.418 seconds → 392.706 seconds

fast streaming still means waiting minutes first no matched m3 comparison yet