Back to explore

Faire se comporter des modèles open source comme Jev via l'ingénierie d'inférence

L'auteur affirme que tout modèle open source peut se comporter comme Jev avec un peu d'ingénierie d'inférence, démontrant un nouvel endpoint appelé deepseek-v4.1-flash-jev construit avec le moteur d'inférence sglang.

you can make any open source model behave like jev with just a bit of inference engineering. it's shockingly easy. to prove it, we built a new endpoint we're calling deepseek-v4.1-flash-jev. see the demo below. here's how it's done: sglang (an inference engine) offers a

· 1,3 k likesOpen on X