Back to GitHub projects

Papaya: ARM向けローカルTypeSafe System One API

Raspberry Pi上で動作するTypeSafe互換のSystem One API。llama.cpp Q8とtorchデシジョンヘッドを採用し、公式SDKより4.8倍高速で、意思決定結果は同一です。

该仓库实现并提供与 TypeSafe AI Jev/System One 兼容的本地 API,基于 llama.cpp 和 torch 决策头,在树莓派上运行,并与官方 SDK 进行基准对比和决策一致性验证,属于真实集成和深入研究。

· 0 starsOpen on GitHub