Back to GitHub projects

dan: Jev-compatibele System One model serving engine

dan is een Python-bibliotheek en -server die elk causaal LM met open gewichten omzet in een System One-model met een Jev-compatibele API, door de kansen van labeltokens in één prefill te lezen. Het bevat kalibratie- en LoRA-trainingshulpmiddelen.

该仓库明确实现 Jev-compatible System One 模型推理服务,提供 Jev API 兼容的 /v1/systemone 端点,并支持 TypeSafe SDK 连接,与 TypeSafe AI 的 Jev / System One 模型直接相关。

· 0 starsOpen on GitHub