Back to GitHub projects

EdgeJev: การอนุมาน Jev / System One ในเครื่อง

EdgeJev เป็นเครื่องมืออนุมานแบบโลคอลและออฟไลน์สำหรับ Jev / System One รองรับการใช้งานโอเพนซอร์สหลายรายการ ทำงานบน CPU ผ่าน ONNX และ quantization แบบ INT8 โดยไม่ต้องใช้ torch

该仓库实现并优化了 TypeSafe AI 的 Jev / System One 模型,提供离线 CPU 推理、ONNX/INT8 量化、官方协议兼容服务,并集成 laya/kev/NanoJev/PlayJev 等多个复现,包含评测、训练和工具链,与 TypeSafe Jev 直接相关且有实质内容。

· 8 starsOpen on GitHub