Back to explore

Comment évaluer la précision de Jev

Discute du fait que Jev ne peut pas inventer de réponse hors d'un schéma prédéfini, mais peut encore choisir une mauvaise réponse dans celui-ci, parfois avec une grande confiance, et soulève des questions d'évaluation pour les scénarios à faible enjeu.

Jev is cool, but the question I’ve heard most over the past few days is: how do we evaluate its accuracy? 🤔 Jev cannot invent an answer outside a predefined schema, but it still can choose the wrong answer within it, sometimes even with high confidence. For low-stakes,

· 3 likesOpen on X