Pierwsze zaproszenia z listy oczekujących Jev wysłane
TypeSafe aktualizuje dostęp: wysłano e-maile do pierwszej grupy z waitlisty, a wraz z rozszerzaniem dostępu zaproszą kolejne osoby.
HoneyHive zwraca uwagę na model Jev od TypeSafe dla obciążeń LLM-as-a-Judge
HoneyHive zauważa, że TypeSafe AI wydało w tym miesiącu Jev, model stworzony do szybkich ustrukturyzowanych decyzji zamiast generowania tekstu, co czyni go interesującym dla obciążeń LLM-as-a-judge, cytując opóźnienie 20–200 razy niższe i koszt 40–400 razy niższy niż wiodące LLM, bez kosztu tokenów wyjściowych.
@typesafeai released Jev this month: a model built for fast, structured decisions rather than text generation. That makes it interesting for LLM-as-a-judge workloads. TypeSafe reports 20–200x lower latency and 40–400x lower cost than frontier LLMs, with no output-token cost. We
· 3 likesOpen on X
More like this
Użytkownik uzyskał dostęp do Jev i wykonał ~5000 żądań
Użytkownik twierdzi, że wcześniej tego dnia uzyskał dostęp do Jev, wykonał ~5000 żądań za około 2 USD w zakresie klasyfikacji, routingu modeli, intencji, sterowania i innych, i nazywa Jev nowym prymitywem inteligentnego podejmowania decyzji.
Lista oczekujących Jev otwarta: odpowiedz, aby uzyskać dostęp
Kevin Zhang zaprasza użytkowników z listy oczekujących Jev do odpowiedzi, co chcą zbudować, aby uzyskać dostęp.