Back to explore

Thực hành cộng đồng: phân loại đoạn RAG với Jev

Marlene chia sẻ kinh nghiệm thực tế phân loại đoạn RAG với Jev: Jev trả về nhiều xác suất cho mỗi đoạn (như mức độ liên quan và có chứa câu trả lời hay không), từ đó quyết định giữ lại hay loại bỏ. Cô cũng đang thử dùng nó để nén trong copilot SDK.

I like this approach to RAG with Jev. For each passage, Jev returns 4 probabilities like: P(relevant) < 0.45 → drop P(has answer) > 0.55 → keep It keeps or drops based on probability! https://docs.typesafe.ai/cookbooks/classifying_rag_passages… I've been trying it out for compaction in copilot sdk...

Thực hành cộng đồng: phân loại đoạn RAG với Jev 1
· 5 likesOpen on X