Back to GitHub projects

vllm2jev

Ein leichtgewichtiges Skript, das vLLM-Dienste an eine Jev-kompatible Schnittstelle anpasst und Choice-, Score- und Noul-Entscheidungen über Logprobs ermöglicht.

仓库提供 vLLM 到 Jev 协议的适配器,README 明确说明基于 TypeSafe Primitives 实现 Choice、Score、Noul 决策,包含可运行脚本和测试,属于真实集成。

· 1 starsOpen on GitHub