YYaaa News

Hassabis 呼吁美国建全球 AI 监管机构|比照 FINRA 由行业出钱,发布前 30 天强测

一句话总结

Google DeepMind CEO Hassabis 呼吁美国建 AI 监管机构,比照 FINRA 由行业出资,发布前 30 天强测。

Google DeepMind CEO Demis Hassabis 7 月 14 日发表个人宣言《A Framework for Frontier AI and the Dawning of a New Age》,呼吁美国建立一个新的 AI 监管机构——有权审查全球最先进 AI 模型,并在风险加剧时协调全行业放缓发展步伐。目标是年底前运作起来

监管模型参考 FINRA(美国金融业自律组织):由行业出资、由世界一流技术专家组成、对美国政府(SEC 相当方)负责。前沿实验室在模型发布前最多 30 天自愿上交给该机构做安全测试——测试对象包括网络攻击能力、生化威胁、模型「欺骗」(deception)能力。

触发点是 Anthropic 上月被冻事件。#57 发过美国政府突然把 Claude Fable 5 和 Mythos 5 拉入出口管制、三天内下架——Anthropic 两周半内在无规则、无流程、无 playbook 的情况下跟白宫谈判解禁。Hassabis 原话:「这是预警信号⋯⋯华盛顿需要比即兴指令更稳固的东西。」

Hassabis 的时间窗口判断极激进——他认为未来 18 个月内,网络攻击能力(今天已在预警阶段)以及更严重的生物和核安全风险,都可能出现在任何政府都无法控制的开源模型中。他特别强调风险不仅来自开源,更将来自各大 AI 实验室未来的专有模型

幕后筹备已数月。Hassabis 已私下和特朗普政府、其他 AI 实验室负责人(含 Anthropic 的 Amodei)、欧洲官员接触——G7 上月 Hassabis 和 Amodei 也共同呼吁过类似构想,这次是把构想写成公开宣言,开始公开游说。

行业自律 vs 政府直管的老命题。FINRA 模式的好处:技术跟得上、成本行业付;坏处:批评者一直说 FINRA 对华尔街的自律「太软」。放到 AI 上,Anthropic、OpenAI、Google DeepMind 自己组建的机构会不会客观评估自己的模型——这是华盛顿最难信的一环。

赌赢,美国年底前建成 AI 版 FINRA,中国、欧盟被迫在此框架下对接,美国回到 AI 治理主导位。赌输,就是特朗普政府拒绝行业自建方案、走回 #57 那样的即兴出口管制路径,AI 安全治理继续在混乱中拆解。

via CNBC / CryptoBriefing
Hassabis 呼籲美國建全球 AI 監管機構|比照 FINRA 由行業出錢,發佈前 30 天強測