Back to GitHub projects

dan: silnik serwowania modeli System One zgodny z Jev

dan to biblioteka i serwer języka Python, który zamienia dowolny przyczynowy model językowy z otwartymi wagami na model System One z interfejsem API zgodnym z Jev, odczytując prawdopodobieństwa tokenów etykiet w jednym prefillu. Zawiera narzędzia do kalibracji i treningu LoRA.

该仓库明确实现 Jev-compatible System One 模型推理服务,提供 Jev API 兼容的 /v1/systemone 端点,并支持 TypeSafe SDK 连接,与 TypeSafe AI 的 Jev / System One 模型直接相关。

· 0 starsOpen on GitHub