Research12.09.2026 · 00:23
Tái cấu trúc Neural Engine của Apple
Từ eiln.github.io
Tôi từng làm việc reverse-engineer driver Apple Neural Engine (ANE) cách đây ba năm, cho đến khi nhận ra ANE không hữu ích cho lắm và tôi nên làm những việc có giá trị hơn, rồi chuyển sang upstream các block hữu ích khác. Kiến trúc ANE quá đặc thù để xây dựng nền tảng tăng tốc đa năng quanh nó, và một driver Linux mở API truy cập phần cứng ANE không thể mở rộng lớp công việc mà nó có thể thực hiện. Thậm chí macOS cũng chỉ dùng ANE của riêng họ để tạo ảnh xem trước upsampled trong Finder. Đặc điểm nổi bật của M5 (2025) là "hiệu suất LLM", và họ cũng tiện thể gộp lõi ANE vào trong lõi GPU — tôi đã dự đoán điều này, nhưng giờ đây chính thức cảm thấy như sự khởi đầu của sự kết thúc dành cho NPU độc lập. Vì vậy, để tưởng nhớ ANE sắp biến mất, chúng ta sẽ làm một việc còn vô dụng hơn: quay lại reverse-engineer ANE trên M1, hoàn thành những gì chúng ta đã bắt đầu. Đã ba năm rồi (đời mẹ), và tôi nên biết nhiều hơn so với khi tôi lần đầu tiên làm việc này. Nếu mục tiêu ba năm trước là làm ANE hữu ích bằng cách chạy ops trên nó; lần này, mục tiêu là bản đồ toàn bộ kiến trúc nội bộ — compute, datapath, scheduler, bộ nhớ và mô hình thực thi — vì những quyết định thiết kế nội bộ này tiết lộ những giả định về khối lượng công việc ML mà Apple sẵn sàng cam kết vào silicon từ A11 Bionic (2017), và điều đó nói gì về sự chuyển đổi từ NPU thời CNN sang GPU hiện đại chạy khối lượng công việc transformer ngày nay.
Nguồn
+ 1 nguồn khác
- THẢO LUẬNcalvinlobste.rs
Lịch sử nội dung (2)
- 2026-10-16 · Tóm tắt · vi · Thay nội dung đã lưuTôi từng làm việc reverse-engineer driver Apple Neural Engine (ANE) cách đây ba năm, cho …
- 2026-10-16 · Tiêu đề · vi · Thay nội dung đã lưuĐảo ngược kỹ thuật động cơ thần kinh của AppleTái cấu trúc Neural Engine của Apple
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay