Jev im Vergleich zu textgenerierenden Modellen
Jev erzeugt keinen freien Text. Ein Vergleichsvideo zeigt den Unterschied zwischen paralleler Entscheidungsfindung und tokenweiser Texterzeugung.
Jevs OpenAI-kompatible API und gewichtsloser neuronaler Netzwerkmechanismus
Stellt Jevs OpenAI-kompatible Chat-API, einen gewichtslosen neuronalen Netzwerkmechanismus mit Lookup-Tabellen oder Integer-Speicher und 5,1 µs Inferenz vor.
What the heck is this? Keep up with Jev or something ・OpenAI-compatible chat API ・Weightless Neural Network type mechanism that uses lookup tables or integer memory on RAM, instead of a massive number of floating-point parameters in a neural network ・5.1 µs inference?
· 11 likesOpen on X
More like this
Preise, Evaluationen und der Name Jev
Der Launch Thread erklärt Code plus AI Workflow Evaluationen, den angekündigten Eingabepreis und kostenlose Ausgabetokens.
Jev-Modell: Wahrscheinlichkeitsgenerierung für Entscheidungen, 200× schneller und 400× günstiger als LLMs
Dieses Modell ist für Entscheidungsfindung statt Textgenerierung konzipiert und gibt Wahrscheinlichkeiten für jede Option parallel aus, anstatt Antworten Token für Token zu liefern. Der Autor zeigt ein vereinfachtes Beispiel für normale LLMs im Vergleich zu diesem Jev-Modell.
