O autor testou o Jev para monitoramento de CoT em 2.200 traços de pensamento, relatando que supera o Sonnet 5 na classificação e é 3,7 vezes mais rápido que o Luna e 6 vezes mais rápido que o Sonnet.
I ran Jev against Claude and ChatGPT for CoT Monitoring on 2,200 thought traces. It beat Sonnet 5 at classification, but the main selling point is the speed, classifying 3.7x faster than Luna and 6x faster than Sonnet! 🧵
Malte Ubl executou o Jev da TypeSafe AI em uma avaliação de classificador existente: saturou a avaliação em qualidade e foi 6x mais rápido que o Gemini 2.5 Flash Lite.
O autor lançou uma extensão do DuckDB que usa o Jev da TypeSafe AI para classificar rapidamente linhas em arquivos CSV/Parquet ou tabelas DuckDB, cerca de 10 segundos para 1k linhas, mais rápido que um LLM e mais ergonômico que um classificador.
O autor resumiu cada artigo com o DeepSeek V4 Flash e enviou título, resumo e 24 tópicos candidatos ao Jev para classificação, processando 1.018 artigos de IA com custo total de US$ 0,08 e latência mediana de 256 ms por artigo.
