Wyścig linków Wikipedii: wybór spośród tysięcy opcji
Model wybiera następny krok spośród setek lub tysięcy linków, pokazując szybkie decyzje z ograniczonym wyjściem. Post zawiera film 4:04.
Porównanie cross-encoderów i Jev do rerankingu
Dyskusja o porównaniu cross-encoderów z Jev do rerankingu i klasyfikacji, wskazująca, że cross-encodery mogą być serwowane szybciej.
if you're benchmarking cross-encoders vs jev for reranking would love to learn what your results are! even more interesting is cross encoders for classification. still need to benchmark how good cross encoders are at this out of the box, but they can be served faster than jev
· 13 likesOpen on X
More like this
Przypadek użycia zapytań semantycznych z Jev i TypeSafe AI
Nathan LeClaire dzieli się przypadkiem użycia zapytań semantycznych dla Jev i TypeSafe AI, zauważając, że dopiero zaczęto badać możliwości.
Tworzenie live'owego miernika BS dla debaty Trump vs Kamala z Jev
Autor użył Jev do uruchomienia live'owego miernika BS na każdym zdaniu debaty Trump vs Kamala, zadając 5 pytań tak/nie każdemu kandydatowi, co dało łącznie 1 191 wywołań Jev, 1,18 mln tokenów, medianę opóźnienia 415 ms i całkowity koszt 0,0497 $.
