Jev 与文本生成模型的取舍
Jev 不生成自由文本。Diogo 用一段对比视频说明并行决策模型与逐字生成模型在任务形态上的差别。
Jev模型：面向决策的概率生成，比LLM快200倍、便宜400倍
该模型专为决策而非文本生成设计，并行输出各选项概率，而非逐token生成回复。作者给出普通LLM与该Jev模型的简化对比示例。
200× faster and 400× cheaper than llms this model is made for “decision-making” instead of text generation, so it generates probabilities for each option in parallel instead of giving you a response token by token here is a simplified example of normal llms vs this jev thing at
· 5663 次赞在 X 打开
更多类似内容
定价、评测与 Jev 名称的由来
发布线程继续解释 code + AI 的工作流评测，并给出当时的输入价格及免费输出说明。
Jev 模型以并行计算实现每十亿 token 42 美元低成本
帖子称 Jev 采用非 transformer 的并行计算方式，成本低至每十亿 token 42 美元，并讨论 ChatGPT 与 Anthropic 可能受到冲击，以及 LLM 作为接口、Harness 作为后端的架构变化。
