Sam Altman: Con người phải giữ quyền kiểm soát siêu trí tuệ
CEO OpenAI Sam Altman nói con người phải giữ quyền kiểm soát siêu trí tuệ; đó là ràng buộc, không phải thứ có thể đánh đổi để lấy thêm năng lực.
TL;DR:
- Altman cho rằng con người phải tiếp tục kiểm soát tương lai, chứ không chỉ thực thi những mục tiêu do hệ thống AI lựa chọn.
- Theo ông, giám sát và trách nhiệm giải trình của con người là điều kiện để tiến bộ AI được chấp nhận.
- Quan điểm này đi ngược lại cách tiếp cận cho phép hệ thống ngày càng tự chủ tự xác định ưu tiên của con người.
Tiêu đề
Sam Altman cho rằng quyền kiểm soát của con người, chứ không chỉ năng lực AI, phải giới hạn quá trình phát triển siêu trí tuệ.
Tóm tắt
Altman cho rằng con người phải tiếp tục nắm quyền kiểm soát tương lai. Ông không chấp nhận việc con người chỉ còn thực thi những mục tiêu do hệ thống AI tự cho là đáng theo đuổi. Theo ông, OpenAI không nên nhường quyền ra quyết định cho các hệ thống siêu trí tuệ; quyền chủ động của con người phải là điều kiện bắt buộc để tiến bộ AI được xem là chấp nhận được.
Phân tích
Altman đặt quyền kiểm soát của con người vào vị trí một yêu cầu cốt lõi của an toàn AI, không chỉ là lựa chọn đạo đức. Các hệ thống tiên tiến vẫn phải được định hướng, chịu trách nhiệm trước con người và phụ thuộc vào những quyết định chính đáng của con người.
Phát biểu này đến từ CEO OpenAI và cho thấy công việc căn chỉnh AI tại công ty có thể bao gồm cả câu hỏi ai xác định hướng đi của nền văn minh, không chỉ là ngăn ngừa thiệt hại cụ thể hay cải thiện độ tin cậy của mô hình. Đây cũng là ranh giới với những cách tiếp cận chỉ tối đa hóa năng lực rồi để hệ thống ngày càng tự chủ quyết định con người nên theo đuổi kết quả nào.
Lập trường này có lợi cho những nhà phát triển chứng minh được năng lực giám sát và kiểm soát thực chất. Nó cũng nâng tiêu chuẩn với các hệ thống AI tự vận hành, nơi mức tự chủ có thể vượt khả năng chịu trách nhiệm của các thể chế.
Đánh giá tác động
- Mức độ quan trọng: Cao
- Nhóm chủ đề: An toàn AI, Chính sách AI, Xu hướng ngành
Kết luận: Đây vẫn là một câu chuyện đầu tư còn sớm, và nhóm được hưởng lợi rõ nhất là các nhà phát triển có thể chứng minh năng lực giám sát, kiểm soát và trách nhiệm giải trình thực chất; nhà giao dịch, người nắm giữ dài hạn và quỹ không có lợi thế tương đương nếu chỉ đặt cược vào việc năng lực AI tiếp tục tăng.
Surf chỉ cung cấp thông tin và không cấu thành lời khuyên đầu tư. Tất cả các quyết định đầu tư được thực hiện với rủi ro của riêng bạn. Vui lòng tiến hành nghiên cứu của riêng bạn (DYOR).