Back to GitHub projects

cu-Jev:CUDAネイティブのJev互換System One意思決定エンジン

Jev/System One 互換の意思決定推論 API を実装し、CUDA エンジン、公式 SDK のそのまま使える接続方法、実行可能な例、再現可能なベンチマークを提供します。

该仓库实现了与 TypeSafe Jev / System One 兼容的 /v1/systemone API,提供 CUDA 推理引擎、官方 SDK 无需改动的接入方式、可运行的示例和可复现基准测试,属于实质性的 API 服务与开发资源项目。

· 3 starsOpen on GitHub