返回 GitHub 项目

Papaya:ARM上的本地TypeSafe System One API

在树莓派上运行的TypeSafe兼容System One API,基于llama.cpp Q8和torch决策头,比官方SDK快4.8倍,决策一致。

该仓库实现并提供与 TypeSafe AI Jev/System One 兼容的本地 API,基于 llama.cpp 和 torch 决策头,在树莓派上运行,并与官方 SDK 进行基准对比和决策一致性验证,属于真实集成和深入研究。

· 0 Stars在 GitHub 打开