Back to GitHub projects

dan: совместимый с Jev движок обслуживания моделей System One

dan — это библиотека и сервер Python, который превращает любую открытую весовую каузальную языковую модель в модель System One с совместимым с Jev API, считывая вероятности меточных токенов за один проход предварительного заполнения. Включает инструменты калибровки и обучения LoRA.

该仓库明确实现 Jev-compatible System One 模型推理服务,提供 Jev API 兼容的 /v1/systemone 端点,并支持 TypeSafe SDK 连接,与 TypeSafe AI 的 Jev / System One 模型直接相关。

· 0 starsOpen on GitHub