Apple's harbor app biến mac thành server inference AI cục bộ

Apple đang tạo một công cụ cho phép người dùng chạy các mô hình AI lớn trên máy tính của mình bằng cách kết nối nhiều máy lại để chia sẻ sức mạnh xử lý. Phần mềm này hiện đang trong bản xem trước riêng dưới thương hiệu Claris, cho phép thực thi các mô hình open-weight cục bộ trên Apple silicon, đảm bảo dữ liệu không rời khỏi phần cứng và không đến đám mây. Ứng dụng dùng Thunderbolt 5 để tự động phát hiện và gom các Mac được kết nối, gom bộ nhớ unified của chúng để xử lý các mô hình lớn hơn và nhiều yêu cầu đồng thời hơn so với một máy đơn lẻ. Harbor có giao diện tích hợp để duyệt và tải mô hình, loại bỏ nhu cầu cấu hình dòng lệnh hay chuyên môn về cơ sở hạ tầng chuyên biệt.