Back to explore

Routage d'agents avec TypeSafe Jev : 0,29 s et 0,00002 $ par message

Le post compare les mentions dans un chat de groupe, un orchestrateur LLM et TypeSafe Jev pour décider quel agent répond, avec 0,29 s de latence médiane et 0,00002 $ par message.

$10k/month just to decide which agent should answer. not to answer. to decide. group chat + @mentions: fast, cheap, terrible UX. an LLM orchestrator: nice UX, 4-7s and $0.00046 a message. @typesafeai jev: 0.29s median, $0.00002. same decision, $20/month.

Routage d'agents avec TypeSafe Jev : 0,29 s et 0,00002 $ par message 1
· 1 likesOpen on X