Back to GitHub projects

dan: Jev 호환 System One 모델 서빙 엔진

dan은 단일 프리필에서 레이블 토큰 확률을 읽어 Jev 호환 API를 가진 System One 모델로 모든 오픈 가중치 인과 LM을 변환하는 Python 라이브러리이자 서버입니다. 보정 및 LoRA 훈련 도구도 포함됩니다.

该仓库明确实现 Jev-compatible System One 模型推理服务,提供 Jev API 兼容的 /v1/systemone 端点,并支持 TypeSafe SDK 连接,与 TypeSafe AI 的 Jev / System One 模型直接相关。

· 0 starsOpen on GitHub