Back to explore

Практика спільноти: класифікація фрагментів RAG за допомогою Jev

Marlene ділиться практичним досвідом класифікації фрагментів RAG за допомогою Jev: Jev повертає кілька ймовірностей для кожного фрагмента (наприклад, релевантність і наявність відповіді), які визначають рішення зберегти чи відкинути. Вона також тестує використання для компактування в copilot SDK.

I like this approach to RAG with Jev. For each passage, Jev returns 4 probabilities like: P(relevant) < 0.45 → drop P(has answer) > 0.55 → keep It keeps or drops based on probability! https://docs.typesafe.ai/cookbooks/classifying_rag_passages… I've been trying it out for compaction in copilot sdk...

Практика спільноти: класифікація фрагментів RAG за допомогою Jev 1
· 5 likesOpen on X