Regulation10.09.2026 · 13:49

Nhiều hoài nghi về việc liệu các nhà nghiên cứu có thể tin tưởng OpenAI với toán học chưa công bố

Từ mathstodon.xyz

AI;DR

Sau khi đọc về vụ lùm xùm, tôi nhận ra một số điểm gợi nhớ đến cuộc trao đổi giữa tôi với OpenAI sau thông báo về nhóm non-sofic. Vụ việc phơi bày một câu hỏi nghiêm trọng chưa có lời giải về việc liệu các nhà nghiên cứu có thể tin tưởng OpenAI với toán học chưa công bố hay không. Không lâu sau phát hiện bất ngờ về nhóm non-sofic dùng phương pháp của Kun và tôi, tôi từng viết email cho Mark Sellke và Sebastien Bubeck rằng: “Một điểm nữa là tôi và một đồng nghiệp ở Dresden đã thảo luận về bài toán khớp expander cùng các phần mở rộng với Gabor Kun qua ChatGPT trong nhiều tháng qua, nên chúng tôi rất tò mò liệu điều đó có nằm trong dữ liệu huấn luyện hay quy trình suy luận hay không. Có sự thiếu minh bạch ở đây (thành thật là không thể chấp nhận được); và tôi sợ nó sẽ làm tổn hại đến quá trình nghiên cứu toán học chung nhiều hơn là lợi ích từ các kết quả mới do AI tạo ra.” Câu trả lời đầy đủ của Mark Sellke là: “Về các cuộc trò chuyện của bạn với ChatGPT: điều đó không xảy ra.” Tôi đã hỏi rõ về hai điều: (1) các cuộc trò chuyện có lọt vào dữ liệu huấn luyện không, và (2) chúng có truy cập được cho quá trình giải quyết không. Câu trả lời dứt khoát lúc đó dường như chỉ nhắm vào quyền truy cập trực tiếp ở mục (2). Không có sự làm rõ, giải thích hay bằng chứng nào được đưa ra. Tôi coi đó ít nhất là sự bất trung thực. Trong vụ Buckmaster-Alpöge, OpenAI giờ đây cho biết không có dữ liệu người dùng cụ thể nào bị truy cập, nhưng bổ sung rằng họ “không thể loại trừ việc dữ liệu ẩn danh rút ra từ quá trình sử dụng sản phẩm của họ đã giúp cải thiện các mô hình của chúng tôi.”

Đọc bài gốcĐăng nhập để góp ý

Nguồn

+ 1 nguồn khác
  1. THẢO LUẬNpred_news.ycombinator.com
#openai#trust#transparency#math-research#data-privacy#research-integrityBản Markdown
Lịch sử nội dung (2)
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    Các nhà nghiên cứu ngày càng hoài nghi trước khả năng bảo mật thông tin chưa công bố khi …
    Sau khi đọc về vụ lùm xùm, tôi nhận ra một số điểm gợi nhớ đến cuộc trao đổi giữa tôi với…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    Nhiều câu hỏi về khả năng tin cậy của OpenAI với kiến thức chưa công bố
    Nhiều hoài nghi về việc liệu các nhà nghiên cứu có thể tin tưởng OpenAI với toán học chưa…

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay