Access updates · Menashe Bouhadana

Jev comme couche de routage centrale d'un agent : la décision passe de 9,2 s à 15 ms

L'auteur utilise Jev comme couche de routage centrale d'un agent, chargée de décider à quel modèle de langage transmettre chaque requête selon la complexité de la tâche. Auparavant, cette décision tournait sur Opus et prenait environ 9,2 secondes ; avec Jev, elle revient en environ 15 ms.