Back to GitHub projects

dan : moteur de service de modèles System One compatible Jev

dan est une bibliothèque et un serveur Python qui transforme tout LM causal à poids ouvert en un modèle System One avec une API compatible Jev, en lisant les probabilités des jetons d'étiquette dans un seul préremplissage. Il comprend des outils de calibration et d'entraînement LoRA.

该仓库明确实现 Jev-compatible System One 模型推理服务,提供 Jev API 兼容的 /v1/systemone 端点,并支持 TypeSafe SDK 连接,与 TypeSafe AI 的 Jev / System One 模型直接相关。

· 0 starsOpen on GitHub