Flash-dLLM: Cache e Decodificação Eficiente para Modelos de Difusão
Propõe otimizações de I/O para cache KV e decodificação paralela em Diffusion LLMs, resolvendo gargalos de inferência que limitam deployment prático. Combina técnicas de reuso de cache com decodificação escalável, alcançando melhorias significativas em throughput e eficiência de memória.
Ler artigo completo