Створення класифікатора кодової бази з Jev
Розробник ділиться створенням класифікатора кодової бази з Jev, припускаючи, що це може вирішити проблему переускладненого коду від агентів, і запитує, що тестувати далі.
Комбінація TypeGPU + ruNNtime + Jev забезпечує локальний висновок і рендеринг у реальному часі
Розробник ділиться досвідом поєднання TypeGPU, ruNNtime і Jev: ruNNtime забезпечує ефективний локальний висновок, а TypeGPU дозволяє висновку та рендерингу напряму спільно використовувати ресурси GPU без копіювання, виконуючи три висновки нейромережі плюс рендеринг у реальному часі.
TypeGPU + ruNNtime + Jev @typesafeai is a very fun combo :D ruNNtime gives me efficient local inference, TypeGPU lets inference and rendering share GPU resources directly with zero copy. That’s 3 separate NN inferences plus rendering, all happening in realtime Since we control
· 699 likesOpen on X
More like this
Jev забезпечує LLM-as-a-Judge у 20–200 разів швидше та у 40–400 разів дешевше
Jev використано для вибору моделі AGI, забезпечуючи у 20–200 разів більшу швидкість і у 40–400 разів меншу вартість, роблячи LLM-as-a-judge надзвичайно швидким і майже безкоштовним.
Тестування застосунків із TypeSafe Jev та OpenCode
Filip ділиться невеликим демо, що показує швидкість тестування застосунків із TypeSafe Jev та OpenCode.
