Создание классификатора кодовой базы с помощью Jev
Разработчик делится созданием классификатора кодовой базы с помощью Jev, предполагая, что это может решить проблему переусложнённого кода от агентов, и спрашивает, что тестировать дальше.
Режим Brio в Colibrì, вдохновлённый Jev от TypeSafe, принимает контекст и закрытый список ответов, возвращая вероятности и энтропию для каждого варианта без генерации токенов. Работает на 9 семействах открытых моделей на вашем собственном оборудовании.
Brio mode in Colibrì Give it context + a closed list of answers. It returns the probability of each choice + entropy (how unsure it is). Zero generated tokens. Inspired by TypeSafe’s Jev — but on 9 open model families, running on your hardware.