标签: inference
All the articles with the tag "inference".
决策层：为什么 Jev 改写了企业级智能体的架构
Published: at 03:00 PM企业里绝大多数智能体流量是决策，不是文章——可每一个分支都是自回归模型生成的。当决策层从 LLM 里搬回代码，架构会变成什么样；以及那些准确率数字真正支撑得起的级联式设计。
Jev：拒绝写字的前沿模型
Published: at 10:00 AMJev 是一个从不生成文本的前沿模型。它对你给出的选项做一次并行打分——8.5 秒的 LLM 输出，换成了 0.1 秒的算术。本文讲清这笔交易，以及它为什么关系到你运行的每一个智能体的成本架构。