Tại sao ngôn ngữ do AI tạo ra lại khó hiểu đến vậy?

Có một cảm nhận phổ biến rằng văn bản do AI tạo ra gần đây đã trở nên khó hiểu hơn. Trong nghiên cứu này, chúng tôi điều tra một tập hợp các đặc trưng thần kinh học đã biết là có mối liên quan với độ khó trong quá trình xử lý của con người (ví dụ: câu qua động từ, phụ thuộc cú pháp dài, n-gram tần suất thấp). Sử dụng một kho dữ liệu mới về văn bản do AI tạo ra trên nhiều lĩnh vực khác nhau, chúng tôi tìm thấy các mô hình AI sử dụng những đặc trưng khó này nhiều hơn so với các bản diễn đạt được tạo ra bởi dịch thuật đi lại. So với bản viết của con người, tất cả chín mô hình frontier và gần frontier đều sử dụng nhiều chủ ngữ vô hình hơn với động từ sống động và nhiều n-gram tần suất thấp hơn, và hầu hết cũng sử dụng các phụ thuộc dài hơn, nhiều danh từ xếp chồng lên nhau và nhiều đối tượng quan hệ giảm thiểu hơn trong hội thoại; chúng tôi cũng chứng minh được sự biến thiên lớn lao đột giữa các model family. Chúng tôi đề xuất và kiểm tra một giả thuyết về lý do tại sao: trong khi ngôn ngữ con người được tối ưu cho giao tiếp thành công, văn bản do AI tạo ra đang ngày càng được tối ưu cho những mục tiêu khác như toán học, mã lệnh và suy luận, nơi có áp lực cho mật độ thông tin thay vì giao tiếp thành công. Chúng tôi cung cấp một khái niệm chứng minh cho giả thuyết này bằng cách fine-tune một mô hình ngôn ngữ dưới dạng hình phạt độ dài, dẫn đến sự tr divergence từ hành vi ngôn ngữ giống con người. Những phát hiện của chúng tôi làm nổi bật các trục không căn giữa nhu cầu xử lý ngôn ngữ của con người và LLMs, và chỉ đến các giải pháp có thể khả dĩ.