Back to GitHub projects

dan: сумісний з Jev рушій обслуговування моделей System One

dan — це бібліотека та сервер Python, який перетворює будь-яку каузальну мовну модель з відкритими вагами на модель System One із сумісним з Jev API, читаючи ймовірності токенів міток за один префіл. Включає інструменти калібрування та навчання LoRA.

该仓库明确实现 Jev-compatible System One 模型推理服务,提供 Jev API 兼容的 /v1/systemone 端点,并支持 TypeSafe SDK 连接,与 TypeSafe AI 的 Jev / System One 模型直接相关。

· 0 starsOpen on GitHub