Jev im Vergleich zu textgenerierenden Modellen
Jev erzeugt keinen freien Text. Ein Vergleichsvideo zeigt den Unterschied zwischen paralleler Entscheidungsfindung und tokenweiser Texterzeugung.
TypeSafe Jev: Zustand und typisierte Fragen als Eingabe, Auswahl, Score und Wahrscheinlichkeit als Ausgabe
TinyRouter stellt TypeSafe's Jev-Modell vor: Zustand und typisierte Fragen als Eingabe, Auswahl, Score oder Wahrscheinlichkeit als Ausgabe, ohne Text zu parsen. Ein Beispielaufruf liefert choice=billing (p=0.71) und score 0.8 über POST /v1/systemone, mit 32K-Kontext und kostenloser Ausgabe.
Text was never the hard part. Parsing it was. Jev by TypeSafe: state + typed questions in, choice/score/probability out — no prose to parse. Real call → choice=billing (p=0.71), score 0.8. POST /v1/systemone, 32K ctx, output free. #Jev #TypeSafe #DecisionModels
· 0 likesOpen on X
More like this
Preise, Evaluationen und der Name Jev
Der Launch Thread erklärt Code plus AI Workflow Evaluationen, den angekündigten Eingabepreis und kostenlose Ausgabetokens.
Jev-Modell: Wahrscheinlichkeitsgenerierung für Entscheidungen, 200× schneller und 400× günstiger als LLMs
Dieses Modell ist für Entscheidungsfindung statt Textgenerierung konzipiert und gibt Wahrscheinlichkeiten für jede Option parallel aus, anstatt Antworten Token für Token zu liefern. Der Autor zeigt ein vereinfachtes Beispiel für normale LLMs im Vergleich zu diesem Jev-Modell.
