Mô hình nhỏ hỏi tốt hơn: Fine-tuning việc làm rõ truy vấn cho RAG

Làm rõ truy vấn là yếu tố thiết yếu cho các hệ thống RAG khi phải đối mặt với những truy vấn mơ hồ từ người dùng. Chúng tôi xem xét các kịch bản hội thoại đa lượt có căn cứ, nơi truy vấn của người dùng có thể bị sai cấu trúc hoặc mơ hồ trong ngữ cảnh của cuộc đối thoại trước đó, hoặc thú vị hơn là truy vấn có cấu trúc tốt nhưng khi đối chiếu với các tài liệu được truy xuất lại có nhiều cách hiểu liên quan khác nhau. Nhiệm vụ là nhận diện cả hai trường hợp này, sau đó tạo ra một yêu cầu làm rõ phù hợp gửi tới người dùng. Chúng tôi giới thiệu ClariEdge, một bộ dữ liệu mới gồm khoảng 3.900 ví dụ bao gồm các truy vấn mơ hồ như vậy cùng với các ví dụ tiêu cực không cần làm rõ. Chúng tôi cũng chỉ ra rằng một LoRA được fine-tune nhẹ nhàng đạt độ chính xác phân loại 96,6% và vượt qua các baseline dùng prompt của nhiều mô hình lớn hơn về cả khả năng phân loại lẫn chất lượng tạo yêu cầu làm rõ. Nghiên cứu của chúng tôi cho thấy các hard negatives là thành phần thiết yếu để tách biệt các truy vấn thực sự mơ hồ khỏi các truy vấn trông có vẻ mơ hồ nhưng thực tế thì không (tức là có thể giải quyết được từ ngữ cảnh).