Back to explore

Rizzo Flow tái tạo API Jev cục bộ bằng llama.cpp

Jev là dịch vụ lưu trữ mã nguồn đóng, nên khó có được giao diện 'trạng thái vào, quyết định xác suất ra' tương tự ở cục bộ. Rizzo Flow bù đắp lớp này bằng trọng số mở và llama.cpp, chỉ cần đổi base URL là chạy được với localhost.

Jev 是托管闭源服务,本地想拿到同一套「状态进、带概率的决策出」的接口只能自己搭,Rizzo Flow 用开源权重加 llama.cpp 把这层补上,代码里改个 base URL 就能对着 localhost 跑。 https://github.com/Rizzo-AI-Academy/rizzo-flow… 把 Jev 的接口抄成一样的 HTTP

Rizzo Flow tái tạo API Jev cục bộ bằng llama.cpp 1
· 0 likesOpen on X