Jev im Vergleich zu textgenerierenden Modellen
Jev erzeugt keinen freien Text. Ein Vergleichsvideo zeigt den Unterschied zwischen paralleler Entscheidungsfindung und tokenweiser Texterzeugung.
Jev-Konfidenzwerte und hybride System-1/System-2-Entscheidungen
Teilt einen hybriden Ansatz, der Jev für schnelle System-1-Entscheidungen nutzt und anhand seines Konfidenzwerts bei Bedarf auf ein intelligenteres System-2-Modell zurückgreift.
I used this hybrid approach in the demo below. The useful part is that Jev gives us its confidence score, which is a good signal to handoff the task to a larger model if needed. You use Jev for quick and fast system 1 decisions and fall back to a more intelligent slower system 2
· 0 likesOpen on X
More like this
Preise, Evaluationen und der Name Jev
Der Launch Thread erklärt Code plus AI Workflow Evaluationen, den angekündigten Eingabepreis und kostenlose Ausgabetokens.
Jev-Modell: Wahrscheinlichkeitsgenerierung für Entscheidungen, 200× schneller und 400× günstiger als LLMs
Dieses Modell ist für Entscheidungsfindung statt Textgenerierung konzipiert und gibt Wahrscheinlichkeiten für jede Option parallel aus, anstatt Antworten Token für Token zu liefern. Der Autor zeigt ein vereinfachtes Beispiel für normale LLMs im Vergleich zu diesem Jev-Modell.
