AI interpretability gần đến bước đột phá? Bài luận mới chia rẽ các nhà nghiên cứu

Mạng nơron có thể dễ đọc hơn so với các nhà nghiên cứu đã từng cho là, với khoảng 90% số nơron phục vụ một chức năng rõ ràng. Điều này sẽ là tin tốt cho nghiên cứu an toàn AI, vì lừa mòn hoặc hành vi nguy hiểm có thể được phát hiện trực tiếp trong mạch của mô hình. Các nhà nghiên cứu vẫn đang tranh luận xem luận điệu này có đúng hay không.