Goodfire ra mắt công cụ tự động hóa để bản đồ các vai trò tính toán của nơ-ron AI

Công ty nghiên cứu AI Goodfire đã ra mắt một công cụ tự động hóa mang tên "Neuron Scientist", được thiết kế để bản đồ các chức năng tính toán của từng nơ-ron riêng lẻ trong các mô hình ngôn ngữ lớn. Trong một báo cáo kỹ thuật mới, các nhà nghiên cứu của hãng cho rằng phần lớn các nơ-ron trong các mô hình có tới hàng nghìn tỷ tham số đều "được đọc hiểu", gợi ý rằng các mạch nội tại của những mạng này không rắc rối như từng nghĩ trước đây.

Neuron Scientist tự động hóa việc giải thích bằng cách đưa ra giả thuyết về vai trò của một nơ-ron, tiến hành các thí nghiệm điều khiển và tinh chỉnh mô tả thông qua phân tích mạch. Là một phần của việc ra mắt, Goodfire đã cung cấp mô tả cho 1.500 nơ-ron trong mô hình Qwen3.6 35B-A3B. Nhóm nghiên cứu cho rằng cách tiếp cận nơ-ron thông qua chức năng tính toán của chúng là phương pháp hiệu quả hơn đối với an toàn AI và căn bằng so với các nghiên cứu truyền thống tập trung vào đa nghĩa đơn và đa nghĩa.