Bẫy rối loạn: Khi bọt rác AI làm lãng phí tín hiệu trong biển tiếng ồn

Bài luận này giới thiệu khái niệm decoherence: tích lũy các mô hình cục bộ hợp lệ nhưng mâu thuẫn hoặc dư thừa với nhau trong một hệ thống, sao cho chi phí thay đổi bị chi phối bởi việc dịch chuyển giữa các mô hình đó và ngăn ngừa các tác dụng phụ không mong muốn. Nói cách khác, đó là những gì xảy ra khi bọt rác làm lãng phí tín hiệu trong biển tiếng ồn vô tận. Tốc độ tích lũy decoherence tăng theo tốc độ thay đổi của hệ thống, và nó tăng nhanh hơn khi hệ thống càng rối loạn, dẫn đến sự tăng trưởng mũi trường vô cùng nhanh. Đây không phải hiện tượng mới, và con người luôn đối phó bằng cách tìm cách làm nhiều hơn với ít hơn, đưa các mô hình và mẫu hình rời rạc về một thể thống nhất. Tuy nhiên, việc sử dụng AI rộng rãi hiện đang tạo ra nó ở tốc độ không bền vững. Tin tốt là điều này loại trừ được cơn ám mộng của sự cải thiện đệ quy tự động chạy trốn, cuộc cách mạng trí tuệ tăng vọt lên trước khi bất kỳ ai kịp phản ứng, vì decoherence vừa ngăn AI cải thiện trong bong bóng và giới hạn tốc độ cải thiện bên ngoài nó. Tin xấu là chúng ta đang lao về một thảm họa khác: Collapse rối loạn. Hãy tưởng tượng một tòa nhà, chẳng hạn một tòa nhỏ. Khi tòa nhà này được xây dựng, họ đã dùng một loại ống sẽ phân hủy theo thời gian và cuối cùng cần thay thế. Đó là nợ cơ sở hạ tầng tiêu chuẩn; mòn ăn mòn cơ bản, như người ta vẫn nói.