Back to explore

Community-praktik: klassificera RAG-avsnitt med Jev

Marlene delar praktiska erfarenheter av att klassificera RAG-avsnitt med Jev: Jev returnerar flera sannolikheter per avsnitt (t.ex. relevans och om det innehåller svaret), som styr beslut om att behålla eller kassera. Hon testar även användning för kompaktering i copilot SDK.

I like this approach to RAG with Jev. For each passage, Jev returns 4 probabilities like: P(relevant) < 0.45 → drop P(has answer) > 0.55 → keep It keeps or drops based on probability! https://docs.typesafe.ai/cookbooks/classifying_rag_passages… I've been trying it out for compaction in copilot sdk...

Community-praktik: klassificera RAG-avsnitt med Jev 1
· 5 likesOpen on X