Ý chính

Demis Hassabis nói AGI có thể chỉ còn cách vài năm, và kêu gọi Mỹ dẫn đầu một nhóm tiêu chuẩn để kiểm tra các mô hình AI mạnh trước khi tung ra thị trường.

Tóm tắt

Demis Hassabis, người đứng đầu Google DeepMind, nghĩ AGI không còn xa xôi. Nếu xuất hiện, tác động của nó sẽ lớn hơn nhiều làn sóng công nghệ trước đây.

Ông lo nhất là tốc độ chạy đua giữa công ty và quốc gia đang nhanh hơn khả năng xã hội xử lý rủi ro. Giải pháp ông đưa ra là một cơ quan chuẩn do Mỹ dẫn dắt, kiểu FINRA, với nhiệm vụ:

• Rà soát mô hình frontier trước khi triển khai;
• Xây benchmark chung cho năng lực nguy hiểm;
• Tạo lớp kiểm định an toàn thực sự, không chỉ giấy tờ.

Phân tích

Điều đáng nói là Hassabis không chỉ đưa ra mốc thời gian ngắn mà còn gắn nó với khung quản trị cụ thể. Ông coi an toàn AI như bài toán kiểm thử kỹ thuật liên tục, đòi hỏi benchmark phải cập nhật thường xuyên, có quyền truy cập compute lớn để đánh giá, có chuyên gia ngoài tham gia, và áp dụng cho cả mô hình đóng lẫn mở.

Cấu trúc ban đầu có thể tự nguyện, sau này có thể thành bắt buộc với mô hình dùng tại Mỹ. Vì vậy đề xuất nằm giữa hai cực:

| Cách tiếp cận | Hàm ý | |---|---| | Tự quản gần như hoàn toàn | Nhanh, linh hoạt nhưng phụ thuộc cam kết từng lab | | Cấp phép toàn diện | Kiểm soát chặt nhưng dễ tạo rào cản cho startup, đại học và nghiên cứu mở | | Cơ quan chuẩn kiểu FINRA | Tạo chuẩn chung, có thể tăng mức bắt buộc dần mà không khóa đổi mới ngay |

Phần khó nhất là open source. Đưa tiếng nói cộng đồng mở vào quy trình đồng thời áp dụng cho cả hệ thống mở và đóng chính là mâu thuẫn trung tâm hiện nay: làm sao kiểm soát mô hình mạnh mà không bóp nghẹt nhóm nhỏ hay trường đại học.

Với frontier lab, hướng này nghĩa là yêu cầu vận hành nặng hơn: bảo mật hệ thống, tài liệu hóa rõ ràng, sàng lọc nhân sự nghiêm ngặt, đầu tư nhiều hơn cho safety, và kiểm thử trước khi phát hành.

Chi phí tuân thủ sẽ tăng, nhưng đổi lại thị trường có đường ranh rõ hơn về mô hình nào đủ điều kiện triển khai.

Đánh giá tác động

Mức độ quan trọng: Cao

Chủ đề: Chính sách AI, An toàn AI, Xu hướng ngành

Kết luận: Người đọc vẫn còn sớm với narrative quản trị AGI; nhóm có lợi thế là builder và fund theo dõi hạ tầng kiểm định, an toàn mô hình và chuẩn tuân thủ, không phải trader ngắn hạn.