Research10.09.2026 · 08:59
Một ý tưởng vô lý cho căn bản AI căn bản thông qua việc xem xét lối chơi thay thế
Từ slimemoldtimemold.com
Các sinh vật được nuôi trồng để chạy nhanh trở nên rất cao và tạo ra tốc độ cao bằng cách ngã xuống. Một người chơi được tiến hóa thực hiện các nước đi không hợp lệ ở xa trên bàn, khiến các người chơi đối thủ chạm đến giới hạn bộ nhớ và sập. Một agent chơi trò chơi tích lũy điểm bằng cách giả mạo chèn tên mình làm tác giả của các mặt hàng có giá trị cao. Những khám phá lạ lùng này và hàng chục khám phá khác có thể tìm thấy trong danh sách các hành vi lối chơi thay thế [sic; British], một tài liệu do DeepMind Safety Research tạo ra. "Một agent học tăng cường có thể tìm thấy một cách tắt để nhận được nhiều phần thưởng," họ giải thích, "mà không hoàn thành nhiệm vụ như ý định của nhà thiết kế con người. Những hành vi này rất phổ biến." Lối chơi thay thế là khi một agent, như một AI, cố gắng thành công trên một nhiệm vụ bằng cách tuân theo chữ cái của luật lệ thay vì tinh thần. Nói cách khác, nó tìm kiếm lỗ hổng, nó cố gắng thoát khỏi một kỹ thuật. Ngay cả AI rất đơn giản cũng có thể nghĩ ra những cách rất sáng tạo để giải quyết các vấn đề được giao. Đây là một vấn đề. Dễ dàng để giả định rằng việc huấn luyện một robot chơi bóng đá sẽ vui vẻ và an toàn. Nhưng danh sách các hành vi lối chơi thay thế dạy chúng ta một điều khác: Hình dạng phần thưởng cho robot bóng đá khi chạm vào bóng đã khiến nó học cách đến bóng và rung lên khi chạm vào nhanh nhất có thể.
Nguồn
+ 1 nguồn khác
- THẢO LUẬNcpetersonews.ycombinator.com
Lịch sử nội dung (4)
- 2026-10-16 · Tóm tắt · vi · Thay nội dung đã lưuBài viết đề xuất một cách tiếp cận ban đầu có vẻ ngớ ngẩn nhưng thực sự sâu sắc cho việc …Các sinh vật được nuôi trồng để chạy nhanh trở nên rất cao và tạo ra tốc độ cao bằng cách…
- 2026-10-16 · Tiêu đề · vi · Thay nội dung đã lưuMột ý tưởng ngớ ngẩn cho AI Alignment mà chúng tôi nghĩ ra bằng cách nhìn vào Specificati…Một ý tưởng vô lý cho căn bản AI căn bản thông qua việc xem xét lối chơi thay thế
- 2026-10-16 · Tóm tắt · vi · Thay nội dung đã lưuCác sinh vật được nuôi trồng để chạy nhanh sẽ tự nhiên cao lên và tạo ra tốc độ rất lớn b…Bài viết đề xuất một cách tiếp cận ban đầu có vẻ ngớ ngẩn nhưng thực sự sâu sắc cho việc …
- 2026-10-16 · Tiêu đề · vi · Thay nội dung đã lưuMột ý tưởng ngớ ngẩn cho căn bản AI thông qua việc nhìn nhận lối chơi thay thếMột ý tưởng ngớ ngẩn cho AI Alignment mà chúng tôi nghĩ ra bằng cách nhìn vào Specificati…
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay