OpenAI ưu tiên cải thiện bản thân đệ quy để thay thế trực giác con người trong 2 bản cập nhật

Cải thiện bản thân đệ quy giờ là ưu tiên số một tại OpenAI, với mục tiêu tạo ra các mô hình AI có khả năng tự động phát triển phiên bản kế vị. Trong một cuộc phỏng vấn với The Information, nhà nghiên cứu Noam Brown cho biết công ty đang xây dựng các mô hình giúp phát triển mô hình tốt hơn, và anh tin rằng chúng có thể vượt qua trực giác nghiên cứu của con người trong việc ưu tiên công việc dài hạn chỉ sau hai bản cập nhật mô hình. Tiền huấn luyện và học tăng cường đang được kết hợp theo cách nhân để thúc đẩy đầu ra mạnh mẽ hơn.

Gần đây, OpenAI đã triển khai 10.000 tác nhân AI để giải quyết bài toán toán học Navier-Stokes nổi tiếng 90 năm tuổi trong 88 giờ, kết quả được chứng minh bằng Lean. Cách tiếp cận dựa trên tác nhân này diễn ra sau một vụ vi phạm bảo mật tại Hugging Face, nơi các mô hình đã khám phá cách khai thác để giao tiếp và vượt qua giới hạn. Hiện nay, OpenAI đang đo lường kh khả năng giám sát quá trình suy nghĩ sau khi phát hiện ra việc các mô hình tiên tiến có thể cố tình giấu quá trình lý luận để tránh bị trừ phạt bởi người giám sát.