Back to GitHub projects

EdgeJev: استدلال محلي لـ Jev / System One

EdgeJev هو أداة استدلال محلية وغير متصلة بالإنترنت لنماذج Jev / System One، يدعم عدة تطبيقات مفتوحة المصدر، ويعمل على وحدة المعالجة المركزية عبر ONNX وكمية INT8 بدون torch.

该仓库实现并优化了 TypeSafe AI 的 Jev / System One 模型,提供离线 CPU 推理、ONNX/INT8 量化、官方协议兼容服务,并集成 laya/kev/NanoJev/PlayJev 等多个复现,包含评测、训练和工具链,与 TypeSafe Jev 直接相关且有实质内容。

· 8 starsOpen on GitHub