Back to GitHub projects

EdgeJev: Suy luận Jev / System One cục bộ

EdgeJev là công cụ suy luận cục bộ và ngoại tuyến cho Jev / System One, hỗ trợ nhiều bản triển khai lại mã nguồn mở, chạy trên CPU qua ONNX và lượng tử hóa INT8 mà không cần torch.

该仓库实现并优化了 TypeSafe AI 的 Jev / System One 模型,提供离线 CPU 推理、ONNX/INT8 量化、官方协议兼容服务,并集成 laya/kev/NanoJev/PlayJev 等多个复现,包含评测、训练和工具链,与 TypeSafe Jev 直接相关且有实质内容。

· 8 starsOpen on GitHub