Jev im Vergleich zu textgenerierenden Modellen
Jev erzeugt keinen freien Text. Ein Vergleichsvideo zeigt den Unterschied zwischen paralleler Entscheidungsfindung und tokenweiser Texterzeugung.
Kev-0.6B Jev-Klasse-Entscheidungsmodell führt einen Vorwärtsdurchlauf auf der Apple Neural Engine aus
Kev-0.6B ist ein Entscheidungsmodell der Jev-Klasse, das auf der Apple Neural Engine läuft. Ein Vorwärtsdurchlauf, keine Token-Generierung, 7,18 ms pro Entscheidung bei p99 von 7,53 ms. Die Platzierung wird noch nicht behauptet; sie wird auf drei Arten gemessen: CPU-only liefert Nullen, und Apples xctrace Neural Engine Instrument zählt 303.
Kev-0.6B, a Jev-class decision model, running on the Apple Neural Engine. One forward pass, no token generation. 7.18 ms per decision, p99 7.53. Placement isn't asserted yet, it's measured three ways: CPU-only returns zeros, Apple's xctrace Neural Engine instrument counts 303
· 1 likesOpen on X
More like this
Preise, Evaluationen und der Name Jev
Der Launch Thread erklärt Code plus AI Workflow Evaluationen, den angekündigten Eingabepreis und kostenlose Ausgabetokens.
Jev-Modell: Wahrscheinlichkeitsgenerierung für Entscheidungen, 200× schneller und 400× günstiger als LLMs
Dieses Modell ist für Entscheidungsfindung statt Textgenerierung konzipiert und gibt Wahrscheinlichkeiten für jede Option parallel aus, anstatt Antworten Token für Token zu liefern. Der Autor zeigt ein vereinfachtes Beispiel für normale LLMs im Vergleich zu diesem Jev-Modell.
