返回 GitHub 项目

tiershift:基于 TypeSafe Jev 的 LLM 成本优化路由

tiershift 使用 TypeSafe Jev 在约 180 毫秒内将每个 LLM 调用路由到最便宜的合适模型,提供 TypeScript/Python SDK 和 OpenAI 兼容代理,并附有基准测试。

该仓库实际集成并测试了 TypeSafe Jev 模型,作为其模型路由决策核心,并提供了 SDK、CLI、代理和基准测试。

· 3 Stars在 GitHub 打开