avatar

德米斯·哈萨比斯说 AGI 可能还要几年

DeepMind 首席执行官希望美国牵头建个组织,模型发布前先做测试

avatar@demishassabis
4 days ago

TL;DR:

  • 哈萨比斯觉得 AGI 可能几年内就到
  • 他建议建个类似 FINRA 的机构,发布前检查安全
  • 这想法想在不管和全管之间找个平衡

标题

德米斯·哈萨比斯说,AGI 可能只要几年就来了。他希望美国牵头建个组织,在先进模型上线前检查安全。

摘要

谷歌 DeepMind 负责人德米斯·哈萨比斯认为 AGI 快出现,影响会比以往技术大。他担心企业和国家竞争太快,社会跟不上。他的办法是建个美国发起的标准机构,学 FINRA 的样子,模型部署前审查安全,还定些共同基准。

分析

一个顶尖实验室负责人同时给出短时间线和具体治理想法,这点有意思。哈萨比斯把安全看成实际测试,而不是填表。测试需要定期更新、算力权限和外部专家。机制开始自愿,后来可能对在美国用的模型变成强制。这是在放任和全面许可之间找折中。要包括开源,规则同时管开放和封闭系统,这就碰到难题:怎么控制强 AI 又不挤压小公司和研究。顶尖实验室要在安全、文档、筛人和能力测试上多花钱,但也清楚什么模型能发布。

影响评估

重要性:高

类别:AI 政策、AI 安全、行业趋势