Jev im Vergleich zu textgenerierenden Modellen
Jev erzeugt keinen freien Text. Ein Vergleichsvideo zeigt den Unterschied zwischen paralleler Entscheidungsfindung und tokenweiser Texterzeugung.
Jev Engineering: Trennung von Schlussfolgerung und Entscheidung für mehr Geschwindigkeit und geringere Kosten
Erläutert, wie Jev Engineering Schlussfolgerung und Entscheidung trennt, das teure Modell aus jeder Entscheidungsschleife entfernt und Anfragen über das günstigste geeignete Modell leitet – in Tests bis zu 193x schneller und 444x günstiger.
Jev Engineering separates reasoning from decision-making, moves the expensive model out of every decision loop and routes requests through the cheapest capable model instead, running up to 193x faster and 444x cheaper in tests.
· 46 likesOpen on X
More like this
Preise, Evaluationen und der Name Jev
Der Launch Thread erklärt Code plus AI Workflow Evaluationen, den angekündigten Eingabepreis und kostenlose Ausgabetokens.
Jev-Modell: Wahrscheinlichkeitsgenerierung für Entscheidungen, 200× schneller und 400× günstiger als LLMs
Dieses Modell ist für Entscheidungsfindung statt Textgenerierung konzipiert und gibt Wahrscheinlichkeiten für jede Option parallel aus, anstatt Antworten Token für Token zu liefern. Der Autor zeigt ein vereinfachtes Beispiel für normale LLMs im Vergleich zu diesem Jev-Modell.
