Создание классификатора кодовой базы с помощью Jev
Разработчик делится созданием классификатора кодовой базы с помощью Jev, предполагая, что это может решить проблему переусложнённого кода от агентов, и спрашивает, что тестировать дальше.
В посте представлена открытая система классификации Laya, которая, как утверждается, в 50 раз быстрее Jev; отмечается, что сетевая задержка — главное узкое место моделей принятия решений о намерении, а локальный laya-mlx работает значительно быстрее.
🎉Awesome! There's no fastest, only faster! What’s it like to be 50 times faster than Jev?! Running laya-mlx locally takes off right on the spot✈️ The biggest bottleneck for this kind of intent decision model is network latency Laya is an open-source classification system