Back to explore

Convierte LLM de código abierto en modelos de decisión rápidos tipo Jev

Explica cómo convertir LLM de código abierto de bajo costo en modelos de decisión rápidos tipo Jev sin entrenamiento, y cómo puntúan el vocabulario para elegir la siguiente palabra.

you can turn any low-cost open-source LLM into a Jev like fast decision model without training it. Here's how to do it: An LLM doesn't write text directly. At every step it scores every word in its vocabulary for how likely that word is to come next, and then it picks one. Those

· 0 likesOpen on X