Yes I hiểu cách LLMs hoạt động

Tôi vẫn thường nghe lại tuyên bố "mọi người không biết LLMs hoạt động ra sao", và tôi muốn đưa tuyên bố này về không còn đúng. Đây không chỉ là điều tôi nghe từ những người chưa từng huấn luyện mô hình nào. MIT Technology Review từng đăng một bài viết có tiêu đề "Nobody knows how AI works". TIME cũng từng đăng một bài khác mang tên "No One Truly Knows How AI Systems Work". WIRED từng mô tả các mạng nơơnơa là mỗi lẫn nhưng ngay cả người tạo ra chúng cũng cho là bí ẩn, và IBM cũng lặp lại những tuyên bố tương tự trong tài liệu giáo dục của hãng. Những ấn phẩm uy tín này đang trình bày những giới hạn của nghiên cứu khả năng giải thích hiện tại như thể chúng chứng minh được giới hạn của kiến thức con người. Nhưng chúng không phải vậy. Tôi hiểu LLMs hoạt động ra sao. Cũng như hàng ngàn người khác đã dành nhiều năm nghiên cứu, thiết kế, huấn luyện và triển khai chúng. Việc bạn không hiểu chúng hoạt động ra sao, hay bạn không biết bất kỳ ai hiểu chúng, không có nghĩa là không ai hiểu chúng. LLMs là những hệ thống cơ học. Chúng được xây dựng từ các hàm toán học và phần mềm do con người thiết kế, cài đặt và chạy trên những máy tính do chúng ta chế tạo. Không có bất kỳ yếu tố nào thần kỳ trong quá trình này. Chúng tôi biết thông tin nhập vào hệ thống như thế nào, chúng được biến đổi như thế nào, cách thức tham số được điều chỉnh trong quá trình huấn luyện, và cách những tham số đó được sử dụng để tính toán kết quả đầu ra.