Wichtigste Ergebnisse von Realtime-Bench: Das beste Modell GPT-6-Astra erreicht 36 %; Jev antwortet in unter einer Sekunde als schnellstes Modell, erzielt aber nur 8 %. Mehr Reasoning hilft nur, wenn die Uhr angehalten wird; mit echter Uhr kostet langsames Denken den Sieg. Selbst bei eingefrorener Zeit bleiben viele Aufgaben ungelöst.
alphaXiv gibt an, ein 4B-Modell mit 117.000 Entscheidungsbeispielen trainiert zu haben. Es schneidet bis auf Sarkasmus-Erkennung nahezu identisch zu Jev ab und generalisiert auf unbekannte Aufgaben wie die Schwere von Hassrede.
Wasim Jalali teilt die Ergebnisse von Tag 9 der Decision Bench: Clef Omni landet mit 87,2 % Genauigkeit auf dem letzten Platz von 8, im Vergleich zu Jev 1.13 bei versteckten Fragen und Rauschbehandlung. Es ist konservativ und lässt den meisten Rauschen drin.
Carlos Muñoz Ferrandis berichtet, dass ihr Modell in einer Woche mit zwei A100 und nur offenen Datensätzen sowie synthetischen Antworten Jev bei 6 von 8 öffentlichen Guard-Benchmarks schlägt, einen mittleren AUROC von 0,936 im Vergleich zu Jevs 0,934 erreicht und auf einer einzelnen A100 90 ms pro Anfrage benötigt.
Der Beitrag zitiert ein Forschungspapier von Tencent, das die Urteilsfähigkeit von Jev bei geänderter Reihenfolge der Optionen bewertet. Die Ergebnisse zeigen, dass Jev selbst bei lösbaren Problemen oft falsch liegt, was mit der Erfahrung des Autors übereinstimmt.
Ein Nutzer schlägt vor, Jev für einen Ordner mit gescannten Arbeiten voller Gleichungen zu verwenden, um Seiten zu markieren, die noch einmal geprüft werden müssen. Link
Ben Kolligs nutzte Jev von @typesafe, um Titel und Abstracts von Papieren zur Robotik-Modellierung zu klassifizieren. Der Anteil der VLA-Modelle stieg von ca. 10 % im Jahr 2023 auf 38 % von Januar bis September 2026, World Models von 9 % auf 18 %.
Im Latent-Space-Podcast diskutiert swyx über Jev und Entscheidungsmodelle und spricht dabei ein seltenes Thema der LLM-Kalibrierung an, wobei ein Element hervorgehoben wird, das Menschen möglicherweise nicht kennen oder verstehen.
Der Autor vergleicht neue Entscheidungsmodelle auf Basis von #Jev mit kleinen lokalen Modellen und zeigt, dass APIs bei wenigen Beispielen vorteilhaft sind und sich die Ergebnisse mit mehr Daten ändern. Link
Der Beitrag berichtet über Tag 5 von Decision Bench: Microsoft-Decision-1 führt mit 96,4 % Genauigkeit, Jev 1.13 liegt nur eine Prüfung zurück, inklusive versteckter Fragen und Kosten für Rauschkommentare.
Der Beitrag teilt eine Studie zum Verhalten von Modellen bei Mehrfachantwort-Aufgaben: Modelle können richtige Optionen vor Distraktoren einordnen, weisen jedoch einigen richtigen Antworten weiterhin niedrige Wahrscheinlichkeiten zu. Das Papier evaluiert Jev und andere Modelle auf MetaTool, HotpotQA und ECtHR. Link