Jev im Vergleich zu textgenerierenden Modellen
Jev erzeugt keinen freien Text. Ein Vergleichsvideo zeigt den Unterschied zwischen paralleler Entscheidungsfindung und tokenweiser Texterzeugung.
Jev vs Gemini: Test zur Verarbeitung strukturierter Ausgaben
Der Autor erweiterte das Batch auf etwa 300 Fragen pro Aufruf. Jev antwortete erfolgreich, während Gemini alle Anfragen ablehnte, bevor etwas generiert wurde. Die Eingabe umfasste nur ~55k Token in einem Kontextfenster von ~1M Token, was auf ein Problem bei der Durchsetzung strukturierter Ausgaben durch Gemini hinweist.
5/7 Then I widened the batch to roughly 300 questions per call. ✅ Jev answered. ❌ Gemini rejected all 300 test requests before generating anything. The input was only ~55k tokens in a ~1M-token context window. The problem was how Gemini enforces structured output using a
· 0 likesOpen on X
More like this
Preise, Evaluationen und der Name Jev
Der Launch Thread erklärt Code plus AI Workflow Evaluationen, den angekündigten Eingabepreis und kostenlose Ausgabetokens.
Jev-Modell: Wahrscheinlichkeitsgenerierung für Entscheidungen, 200× schneller und 400× günstiger als LLMs
Dieses Modell ist für Entscheidungsfindung statt Textgenerierung konzipiert und gibt Wahrscheinlichkeiten für jede Option parallel aus, anstatt Antworten Token für Token zu liefern. Der Autor zeigt ein vereinfachtes Beispiel für normale LLMs im Vergleich zu diesem Jev-Modell.
