Comparaison de deux approches : envoyer 100 000 tickets de support à une IA frontière qui renvoie du texte (151 $) ou à TypeSafe Jev, un modèle qui ne peut pas renvoyer de texte (2,11 $). Jev prend le contexte directement et décide à un coût bien inférieur.
$151 vs $2.11 same 100,000 support tickets. same three decisions on every one of them the $151 version sends all of that to a frontier AI model and parses whatever text comes back the $2.11 version asks a model that cannot return text at all typesafe's jev takes your context
L'auteur partage un retour d'expérience sur Jev : cela semblait délicat au début, mais tout s'est éclairé en le comprenant comme « ne pas laisser l'IA écrire le texte ». En prenant le traitement des demandes comme exemple, l'approche classique consiste à tout confier à GPT ou Claude pour analyse, alors que Jev adopte une approche différente.
Le prototype utilise l'IA pour estimer l'hésitation ou l'intérêt à partir des mouvements du curseur ou de l'arrêt avant le clic, en observant le comportement du client et en complétant les explications ou en suggérant des comparaisons.
L'auteur a créé une démo de service client en temps réel pour le e-commerce avec Jev et gpt-live-1, qui suggère instantanément des produits recommandés en fonction de la parole de l'utilisateur pendant la conversation, offrant une excellente expérience.
