#vllm

Modelos open-weights para agentes: quando vale a pena rodar

Saiba o que são modelos open-weights, como o motor de inferência serve agentes com continuous batching e cache de prefixo, e quando rodar local compensa.