Thảm họa vẫn tốt hơn AI

Geoffrey Hinton, người giành giải Nobel vật lý cho nghiên cứu mạng nơ-ron, gần đây đã nói chuyện với tờ Guardian. Trong bài viết: Một trong những "cha tổ của AI", Geoffrey Hinton, đã nói rằng có thể sẽ tốt hơn nếu con người chưa bao giờ phát triển công nghệ này, đồng thời cảnh báo rằng nó có thể gây ra một sự cố quy mô lớn trong năm nayp hay năm sau, như việc mất điện tạm thời của các hệ thống tài chính hoặc năng lượng. Dĩ nhiên, như điển hình truyền thống của truyền thông chính thống, bài viết này về cơ bản nói "có rủi ro, những CEO công nghệ vô trách nhiệm, Trump vô trách nhiệm, và chúng ta cần quy định." Nhưng dù vậy, hãy cùng khám phá mối quan tâm của Dr Hinton rằng AI có thể làm sập lưới điện hoặc gây ra sự sụp đổ tài chính. Dù điều đó sẽ tệ trong một số khía cạnh, nhưng nó có khả năng là điều tệ nhất trong số tất cả những điều có thể xảy ra. Thực sự, điều nghe tệ hơn đối với tôi là AI tiếp tục phát triển và mạnh mẽ hơn, nhưng không có gì xấu rõ rệt xảy ra. Bởi vì thì chúng ta sẽ bị kẹt vào một thế giới nơi mọi thứ đều là AI, lượng năng lượng khổng lồ bị lãng phí, cộng đồng trí tuệ bị phá hủy, và cuối cùng là thiên nhiên bị xóa bỏ vì công nghệ đẩy nó ra ngoài. Nói cách khác, nếu chúng ta không trải nghiệm bất kỳ nỗi đau ngay lập tức nào từ AI, chúng ta sẽ chỉ chấp nhận nó một cách vô thức và trở nên nghiện nó hoàn toàn.