CODA: Reescrevendo Blocos Transformer como Programas GEMM-Epilogue
Paper que otimiza a execução de transformers reescrevendo blocos como operações GEMM (General Matrix Multiply) mais eficientes. Aborda um gargalo crítico em modelos de linguagem, reduzindo latência e consumo de memória em inferência. Impacto direto na viabilidade de rodar grandes modelos em hardware limitado.
Ler artigo completo