Jev im Vergleich zu textgenerierenden Modellen
Jev erzeugt keinen freien Text. Ein Vergleichsvideo zeigt den Unterschied zwischen paralleler Entscheidungsfindung und tokenweiser Texterzeugung.
Cascade-Designmuster für Jev-ähnliche Modelle
Stellt ein unterschätztes Cascade-Muster vor, bei dem ein kleines Modell alles beantwortet und ein großes nur unsichere Fälle, mit ersten Laufdaten.
Very underutilized design pattern no one is talking about (yet) for Jev-like models: cascade. A small model answers everything. A big model answers only what the small one is unsure about. In my runs the big one handled 13% of questions and the pair matched it alone — 90 vs
· 1 likesOpen on X
More like this
Preise, Evaluationen und der Name Jev
Der Launch Thread erklärt Code plus AI Workflow Evaluationen, den angekündigten Eingabepreis und kostenlose Ausgabetokens.
Jev-Modell: Wahrscheinlichkeitsgenerierung für Entscheidungen, 200× schneller und 400× günstiger als LLMs
Dieses Modell ist für Entscheidungsfindung statt Textgenerierung konzipiert und gibt Wahrscheinlichkeiten für jede Option parallel aus, anstatt Antworten Token für Token zu liefern. Der Autor zeigt ein vereinfachtes Beispiel für normale LLMs im Vergleich zu diesem Jev-Modell.
