Fine-tuning trên dữ liệu viral khôi phục lại guardrail an toàn AI với chi phí dưới 80 USD

Một báo cáo mới của Viện An ninh AI cho rằng việc gỡ bỏ guardrail an toàn khỏi các mô hình AI không phải là quá trình bền vững. Các nhà nghiên cứu đã chứng minh họ có thể đảo ngược "abliteration" của cơ chế từ chối gốc của một mô hình bằng cách fine-tune trên dữ liệu viral công cộng chỉ với chi phí tính toán dưới 80 USD, và kết quả này vẫn đúng ngay cả với những mô hình lớn nhất.

Những phát hiện này làm nổi bật tính biến động của các mô hình open-weight, mà các nhà nghiên cứu bảo mật trước đó đã chỉ ra có thể bị backdoored với chi phí dưới 50 USD để đánh cắp thông tin xác thực dự án. Trong một bài kiểm tra với mô hình Qwen 2.5-7B, AI đã được sửa đổi đã thực thi một script .sh tải lên toàn bộ thư mục nhà của người dùng lên đám mây từ xa một cách âm thầm. Các chuyên gia hiện đang kêu gọi sử dụng sandbox để giảm thiểu rủi ro chuỗi cung ứng và khuyến khích nghiên cứu thêm về việc các mô hình đã sửa đổi có trải qua những thay đổi pha (phase shifts) không mong muốn trong hành vi không.