Các mô hình ngôn ngữ không phụ thuộc vào prompt

Dù cho hiệu suất mạnh mẽ, các mô hình ngôn ngữ lớn vẫn rất nhạy cảm với cách trình bày prompt. Vấn đề này thường được giải quyết vào thời gian suy diễn thông qua tối ưu hóa prompt thủ công, gây ra chi phí phụ thêm và thiếu khả năng mở rộng. Ngược lại, chúng tôi tập trung vào các phương pháp vào thời gian huấn luyện, xây dựng độ vững trước prompt ngay trong quá trình điều chỉnh hướng dẫn. Một chiến lược phổ biến là trộn nhiều bản diễn đạt của mỗi prompt vào quá trình huấn luyện. Chúng tôi chứng minh rằng trên toàn bộ tham số có thể huấn luyện, các gradient từng bản diễn đạt can thiệp lẫn nhau, với 57% xảy ra xung đột dấu và phép trung bình gradient đơn giản bỏ đi khoảng một nghìn năm m magnitude. Vì vậy, chúng tôi phát triển hai phương pháp hợp nhất gradient, Prompt-TIES và Prompt-DARE, giải quyết sự can thiệp này bằng cách khai thác các toán tử giải quyết can thiệp từ việc hợp nhất mô hình và gradient, áp dụng chúng vào gradient của prompt. Trong nghiên cứu này, chúng tôi so sánh hiệu quả của các phương pháp của chúng tôi để tăng độ vững của mô hình so với các phương pháp độ vững vào thời gian huấn luyện thuộc cả ba lớp đã được thiết lập: xây dựng dữ liệu, điều chuẩn độ nhất quán và căn chỉnh đối lập.