Jev im Vergleich zu textgenerierenden Modellen
Jev erzeugt keinen freien Text. Ein Vergleichsvideo zeigt den Unterschied zwischen paralleler Entscheidungsfindung und tokenweiser Texterzeugung.
Sätze schrittweise mit Jev-Wahrscheinlichkeiten erzeugen
Der Beitrag erklärt, dass man Jev in einer Schleife laufen lassen und schrittweise das wahrscheinlichste Wort auswählen kann, um Sätze zu erzeugen, und weist darauf hin, dass man aus Wörtern mit hoher Wahrscheinlichkeit sampeln kann.
Did you know that, if you put jev in a loop, and simply select the most likely word over a vocab space step by step, you can make jev generate sentences? Since jev returns probabilities, you can actually get quite a few words with high probabilities, and if you sample from those
· 0 likesOpen on X
More like this
Preise, Evaluationen und der Name Jev
Der Launch Thread erklärt Code plus AI Workflow Evaluationen, den angekündigten Eingabepreis und kostenlose Ausgabetokens.
Jev-Modell: Wahrscheinlichkeitsgenerierung für Entscheidungen, 200× schneller und 400× günstiger als LLMs
Dieses Modell ist für Entscheidungsfindung statt Textgenerierung konzipiert und gibt Wahrscheinlichkeiten für jede Option parallel aus, anstatt Antworten Token für Token zu liefern. Der Autor zeigt ein vereinfachtes Beispiel für normale LLMs im Vergleich zu diesem Jev-Modell.
