Research27.09.2026 · 17:26

"As a Language Model": Mẫu trò chuyện chuyển đổi giọng điệu tự quy chiếu của LLM

Từ arxiv.org

AI;DR

Các LLM thường thêm các tuyên bố từ chối trách nhiệm như "I'm just an AI" khi được hỏi về điều gì đó liên quan đến chính chúng. Các báo cáo tự thân từ những phản hồi như vậy được dùng trong các cuộc tranh luận về sự an toàn của AI hoặc khả năng tự nhận thức của các mô hình, thế nhưng điều gì thúc đẩy chúng lại chưa được hiểu rõ. Các mô hình đang cho chúng ta biết về chính chúng hay đúng hơn là cách chúng được triển khai? Trong công trình này, chúng tôi cho thấy chat template hoạt động như một công tắc — khi hiện diện, nó vặn giọng điệu từ chối trách nhiệm lên và giọng điệu trải nghiệm như "I feel" xuống, trên 8 mô hình instruct mã nguồn mở phổ biến có quy mô lên tới 9B tham số. Và ngược lại khi không có chat template, nó vặn giọng điệu từ chối trách nhiệm xuống và giọng điệu trải nghiệm lên. Bên trong các activation của 3 mô hình, chúng tôi tìm thấy một hướng điều khiển hành vi này. Việc loại bỏ hướng đó trong không gian activation của mô hình làm giảm giọng điệu từ chối trách nhiệm và thêm nó vào sẽ làm tăng lên, trong khi một hướng ngẫu nhiên có cùng kích thước ít có tác dụng. Chúng tôi thấy rằng các mô hình instruct không có chat template, khi chúng tôi thêm hướng từ chối trách nhiệm vào, sẽ đưa ra lời từ chối như thể template ở đó. Vì chat template kiểm soát giọng điệu từ chối trách nhiệm của LLM, nên các nhà nghiên cứu nghiên cứu về báo cáo tự thân hoặc sự nội quan của các mô hình có thể gặp phải một yếu tố gây nhiễu cần kiểm soát. Kết quả của chúng tôi cho thấy có một hướng mà họ có thể sử dụng để điều khiển giọng điệu này. Tổng thể hơn, công trình của chúng tôi cho thấy những gì các mô hình nói về bản thân chúng không phải là một sự thật về chúng. Những gì chúng nói không chỉ đến từ các trọng lượng, mà được thiết lập một phần bởi chat template, và vì thế mô tả tự thân của một mô hình không nên được đối xử theo nghĩa đen.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

+ 1 nguồn khác
  1. THẢO LUẬNyu3zhou4news.ycombinator.com
#llmBản Markdown
Lịch sử nội dung (2)
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    Nghiên cứu mới chỉ ra rằng cách một mô hình ngôn ngữ lớn nhắc đến bản thân — chẳng hạn câ…
    Các LLM thường thêm các tuyên bố từ chối trách nhiệm như "I'm just an AI" khi được hỏi về…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    "As a Language Model" — Khi đổi chat template, LLM tự nói về mình theo cách khác
    "As a Language Model": Mẫu trò chuyện chuyển đổi giọng điệu tự quy chiếu của LLM

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay