Jev im Vergleich zu textgenerierenden Modellen
Jev erzeugt keinen freien Text. Ein Vergleichsvideo zeigt den Unterschied zwischen paralleler Entscheidungsfindung und tokenweiser Texterzeugung.
Jevs Genehmigungsrichtlinie als Prompt: Urteile zur Inferenzzeit
Erläutert, dass Jev zur Inferenzzeit die Genehmigungsrichtlinie, Beschreibung und aufgerufenen Parameter eines Tools erhält und ein Urteil zurückgibt; genehmigte Aufrufe starten sofort, abgelehnte laufen nach der Codegenerierung wie normales PTC.
The approval policy is a prompt. Jev is provided the tool's approval policy, along with its tool description and invoked params at inference-time and returns a verdict. Approved calls start immediately and denied calls run once the codegen is complete just like normal PTC.
· 0 likesOpen on X
More like this
Preise, Evaluationen und der Name Jev
Der Launch Thread erklärt Code plus AI Workflow Evaluationen, den angekündigten Eingabepreis und kostenlose Ausgabetokens.
Jev-Modell: Wahrscheinlichkeitsgenerierung für Entscheidungen, 200× schneller und 400× günstiger als LLMs
Dieses Modell ist für Entscheidungsfindung statt Textgenerierung konzipiert und gibt Wahrscheinlichkeiten für jede Option parallel aus, anstatt Antworten Token für Token zu liefern. Der Autor zeigt ein vereinfachtes Beispiel für normale LLMs im Vergleich zu diesem Jev-Modell.
