Back to explore

Aggiungere uno strato di riflessi Jev prima dell'LLM per filtrare le informazioni

L'autore condivide che inserire una carta Jev (riflessi) prima dell'LLM fa sì che Jev ordini i report dei worker e passi solo le informazioni necessarie a Commander Astra, riducendo drasticamente l'uso di token da 330k.

Maybe it's time to stop feeding everything to the LLM (brain) The result of inserting one "Jev (reflexes)" card in the front stage is insane ・Jev sorts the workers' reports ・Only passes necessary info to Commander Astra With just this, the same exchange goes from 【330k →

Aggiungere uno strato di riflessi Jev prima dell'LLM per filtrare le informazioni 1
· 1,2K likesOpen on X