Back to GitHub projects

stuntd: proxy quyết định cục bộ tương thích Jev

stuntd là proxy cục bộ tự lưu trữ, tương thích với giao thức Jev System One và OpenAI Chat Completions. Nó ghi lại các quyết định LLM có kiểu, trả lời cục bộ bằng head Laya đã huấn luyện và chuyển tiếp các trường hợp không chắc chắn đến nhà cung cấp.

该仓库实现了 Jev System One 的 POST /v1/systemone 协议,并提供了 typesafe-sdk 接入示例、可运行 demo、基于 Laya 的本地蒸馏训练与评测表格,属于对 TypeSafe Jev / System One 的实质性集成与测试。

· 11 starsOpen on GitHub