Jev im Vergleich zu textgenerierenden Modellen
Jev erzeugt keinen freien Text. Ein Vergleichsvideo zeigt den Unterschied zwischen paralleler Entscheidungsfindung und tokenweiser Texterzeugung.
Jev: Gültige Ausgaben vor der Inferenz definieren
Stellt Jevs Ansatz vor, gültige Ausgaben vor der Inferenz zu definieren, im Gegensatz zum üblichen Ablauf von Texterzeugung, Markdown-Entfernung, JSON-Parsing und Schema-Validierung.
JEV DELETES THE DUMBEST PART OF AI CODE. - Generate text. - Strip the markdown. - Parse the JSON. - Validate the schema. - Retry after the model adds a poem anyway. Jev starts from the opposite assumption: the valid outputs are defined before inference. State goes in. A typed
· 1 likesOpen on X
More like this
Preise, Evaluationen und der Name Jev
Der Launch Thread erklärt Code plus AI Workflow Evaluationen, den angekündigten Eingabepreis und kostenlose Ausgabetokens.
Jev-Modell: Wahrscheinlichkeitsgenerierung für Entscheidungen, 200× schneller und 400× günstiger als LLMs
Dieses Modell ist für Entscheidungsfindung statt Textgenerierung konzipiert und gibt Wahrscheinlichkeiten für jede Option parallel aus, anstatt Antworten Token für Token zu liefern. Der Autor zeigt ein vereinfachtes Beispiel für normale LLMs im Vergleich zu diesem Jev-Modell.
