Back to GitHub projects

dan: motor de servicio de modelos System One compatible con Jev

dan es una biblioteca y servidor de Python que convierte cualquier LM causal de peso abierto en un modelo System One con API compatible con Jev, leyendo las probabilidades de los tokens de etiqueta en un solo prefill. Incluye herramientas de calibración y entrenamiento LoRA.

该仓库明确实现 Jev-compatible System One 模型推理服务,提供 Jev API 兼容的 /v1/systemone 端点,并支持 TypeSafe SDK 连接,与 TypeSafe AI 的 Jev / System One 模型直接相关。

· 0 starsOpen on GitHub