Back to explore

Локальна модель з відкритим кодом значно перевершує Jev за швидкістю

Автор порівнює локальну модель Laya (421M параметрів) із хмарним API Jev на тому самому завданні змійки протягом 30 секунд. Медіана становить 15,3 мс проти 298,1 мс, тобто локальна модель приблизно в 20 разів швидша, що демонструє значну різницю у швидкості прийняття рішень на рівні мілісекунд.

これはヤバい ローカル版LayaがJevを速度で圧倒 421MのOSS判断モデル vs クラウドAPI 同条件のスネークを30秒走らせて比較 中央値15.3ms vs 298.1msで約20倍 ミリ秒級の判断速度がそのまま結果に出た 詳しい比較は👇

· 0 likesOpen on X