Back to explore

Een Jev-reflexlaag toevoegen vóór het LLM om informatie te filteren

De auteur deelt dat het invoegen van een Jev-(reflex)kaart vóór het LLM ertoe leidt dat Jev worker-rapporten sorteert en alleen noodzakelijke info aan Commander Astra doorgeeft, waardoor het tokengebruik daalt van 330k.

Maybe it's time to stop feeding everything to the LLM (brain) The result of inserting one "Jev (reflexes)" card in the front stage is insane ・Jev sorts the workers' reports ・Only passes necessary info to Commander Astra With just this, the same exchange goes from 【330k →

Een Jev-reflexlaag toevoegen vóór het LLM om informatie te filteren 1
· 1,2K likesOpen on X