Temas con la etiqueta inference

Tema	Vistas	Actividad
Separar Attention de FFN: el plugin que le saca 11% más throughput a vLLM sin tocarle una línea AI Dev Tools — General deepseek , open-source , yodev , moe , vllm , inference , llm-serving	12	27 Julio 2026
Colibrì: Cómo Corre un Modelo de 744B Parámetros en una Laptop de 32GB (Sin GPU, Sin BLAS) AI Dev Tools — General open-source , glm , moe , self-hosting , inference , local-llm	51	12 Julio 2026
Dejá de Pagar por Token: Serví Modelos Open Source en tu Hardware con vLLM AI Dev Tools — General open-source , self-hosting , vllm , inference , llm-serving	37	24 Junio 2026