Back to GitHub projects

Papaya: локальний API TypeSafe System One для ARM

Сумісний з TypeSafe API System One, що працює на Raspberry Pi, на базі llama.cpp Q8 та головки прийняття рішень torch, у 4,8 раза швидший за офіційний SDK з ідентичними рішеннями.

该仓库实现并提供与 TypeSafe AI Jev/System One 兼容的本地 API,基于 llama.cpp 和 torch 决策头,在树莓派上运行,并与官方 SDK 进行基准对比和决策一致性验证,属于真实集成和深入研究。

· 0 starsOpen on GitHub