Etiquetas: inference
All the articles with the tag "inference".
El plano de decisión: por qué Jev cambia la arquitectura de los agentes empresariales
Published: at 03:00 PMLa mayor parte del tráfico de agentes en la empresa son decisiones, no prosa — y aun así cada bifurcación la produce un modelo autorregresivo. Esto es lo que cambia cuando la capa de decisión sale del LLM y vuelve al código, y la arquitectura en cascada que las cifras de precisión justifican de verdad.
Jev: el modelo frontera que se niega a escribir
Published: at 10:00 AMJev es un modelo frontera que nunca genera texto. Puntúa las opciones que tú le das en una sola pasada paralela — 8,5 segundos de salida de un LLM sustituidos por 0,1 segundos de aritmética. Este es el trato, y por qué importa para la arquitectura de costes de cada agente que ejecutes.