Cấu trúc biểu tượng tự phát trong mạng thần kinh nhân tạo

Các hệ thống AI hiện đại đang thể hiện khả năng vượt trội trong những lĩnh vực vốn dĩ không hề phù hợp với bản chất của chúng. Từ trước đến nay, trí tuệ thường được mô hình hóa dựa trên sự kết hợp có cấu trúc của các biểu tượng, chẳng hạn như các công thức logic. Tuy nhiên, những hệ thống AI mạnh mẽ nhất hiện nay lại dựa trên mạng thần kinh (neural networks) — vốn biểu diễn thông tin dưới dạng các vector liên tục. Dù các vector dường như không đủ khả năng để nắm bắt cấu trúc của ngôn ngữ, logic hay các lĩnh vực nhận thức khác, nhưng mạng thần kinh vẫn đạt được hiệu suất cực kỳ ấn tượng. Vậy bí mật nằm ở đâu? Nghiên cứu này đưa ra một giả thuyết: Trái với vẻ ngoài, các biểu diễn nội tại của mạng thần kinh có thể đang ngầm thực hiện các cấu trúc biểu tượng. Để chứng minh điều này, chúng tôi chỉ ra rằng các biểu diễn vector của nhiều loại mạng thần kinh...