Jev im Vergleich zu textgenerierenden Modellen
Jev erzeugt keinen freien Text. Ein Vergleichsvideo zeigt den Unterschied zwischen paralleler Entscheidungsfindung und tokenweiser Texterzeugung.
Jevs System-One-Inferenz läuft lokal auf iPhone und Mac
Der Beitrag erklärt, dass die von Jev populär gemachte System-One-Inferenz über eine Core-AI-Implementierung lokal auf iPhone oder Mac läuft und sich für wiederholte On-Device-Entscheidungen eignet, etwa das Erkennen antwortbedürftiger Äußerungen, das Prüfen von Einfügungen und das Validieren von Agent-Befehlen.
System One inference, the kind Jev made popular, runs on an iPhone or a Mac (a Core AI implementation). It suits on-device use: telling which utterance needs a reply, checking a paste, vetting an agent's command are decisions made locally, many times over. https://github.com/john-rocky/coreai-kit/blob/main/docs/SYSTEM_ONE.md…
· 0 likesOpen on X
More like this
Preise, Evaluationen und der Name Jev
Der Launch Thread erklärt Code plus AI Workflow Evaluationen, den angekündigten Eingabepreis und kostenlose Ausgabetokens.
Jev-Modell: Wahrscheinlichkeitsgenerierung für Entscheidungen, 200× schneller und 400× günstiger als LLMs
Dieses Modell ist für Entscheidungsfindung statt Textgenerierung konzipiert und gibt Wahrscheinlichkeiten für jede Option parallel aus, anstatt Antworten Token für Token zu liefern. Der Autor zeigt ein vereinfachtes Beispiel für normale LLMs im Vergleich zu diesem Jev-Modell.
