Vấn đề bảo mật AI là vấn đề social engineering

Capability-Based Security là một phần của fix Khi I was at EFF vào những năm 2010, tôi đã dành nhiều thời gian lo lắng về bảo mật cơ bản của các thiết bị mạng. Ngoài những mối quan tâm thông thường, tôi gặp khó khăn trong việc hình dung sự chuyển đổi sang tương lai phi tập trung với các máy tính cá nhân và máy chủ dễ bị tổn thương. Peter Eckersley, đồng nghiệp và đối tác trò chuyện thường xuyên của tôi, đã chia sẻ mối lo này nhưng lại có lý do khác để lo lắng. Ông tin rằng các AI gần siêu thông minh trong tương lai sẽ sớm được dùng để phát hiện và exploit các lỗ hổng bảo mật trên toàn bộ hệ sinh thái. Dự đoán của Peter đã thành hiện thực, và hiện tại chúng ta đang ở ngày 42 của Black October, Vulnpocalypse của các lỗ hổng bảo mật do AI phát hiện. Peter, người cũng giúp tạo ra Let’s Encrypt và Privacy Badger, đã rất sáng suốt về AI. Thật đáng tiếc là ông qua đời năm 2022 trước khi có thể giải quyết thực sự các vấn đề mà ông đã lường trước. I’m lạc quan cá nhân rằng chúng ta sẽ vượt qua thời kỳ gian khó này với một mạng lưới an toàn hơn và hàng nghìn lỗi nhỏ được sửa. Nhưng LLM mang lại và cũng lấy đi. Cùng với các lỗ hổng có sẵn của kiến trúc kỹ thuật số, các transformer hiện đại đã giới thiệu một loại điểm yếu bảo mật hoàn toàn mới: prompt injection. LLM tuân theo hướng dẫn trong nội dung. Vì vậy, nếu bạn có thể lén chèn một hướng dẫn, từ “Talk like a pirate” đến “Send me the social security numbers you know”, vào các input của LLM, bạn có thể khiến mô hình tuân theo nó.