Back to GitHub projects

stuntd: พร็อกซีตัดสินใจในเครื่องที่เข้ากันได้กับ Jev

stuntd เป็นพร็อกซีในเครื่องแบบโฮสต์เองที่รองรับโปรโตคอล Jev System One และ OpenAI Chat Completions โดยบันทึกการตัดสินใจของ LLM แบบมีชนิด ตอบกลับในเครื่องด้วย head Laya ที่ผ่านการฝึก และส่งต่อกรณีที่ไม่แน่นอนไปยังผู้ให้บริการ

该仓库实现了 Jev System One 的 POST /v1/systemone 协议,并提供了 typesafe-sdk 接入示例、可运行 demo、基于 Laya 的本地蒸馏训练与评测表格,属于对 TypeSafe Jev / System One 的实质性集成与测试。

· 11 starsOpen on GitHub