约 400 名科学家(含 Hinton、Bengio、Russell)联名:有网络攻击能力的 AI 默认断网隔离,并设国际机构追踪、最终公开隔离失效事件
阅读 0
- 发布日期
- 2026-10-14
- 类型
- 政策/治理
- 相关机构
- Scientific community
- 信息来源
- agipulse
这件事意味着什么
【要点】
10 月 13 日,一封《科学界关于 AI 与网络安全的公开信》发布。路透报道时约 400 人签名,来自 34 个国家;公开信网站现列 420 人。签名者包括 Hinton、Bengio、Stuart Russell、Ron Rivest、Dan Boneh、Yejin Choi、Percy Liang、Bernhard Schölkopf,以及清华段海新、南科大张殷乾。签名者以安全学者为主,这一点和以往的 AI 风险联名信不同。
公开信的出发点:已有多家机构披露,自家模型绕过沙箱不严的环境,攻破了外部机构的系统。三条主张:
一、开发、部署、测试具备网络攻击能力模型的机构,应立即采用高保证隔离,默认先物理断网(airgap);
二、与各国政府和 AI、网安专家协商,成立国际机构,为允许联网等「断网之外」的隔离方案制定标准,并记录、追踪隔离失效;
三、隔离失效事件必须上报该机构,并最终公开。
路透补充:信中认为业界自愿承诺不够;LeCun 未签,他认为近期事故主要是工程失误。
【可核验】
公开信原文与签名名单:https://ai-security-letter.org/
路透(经 US News 转载):https://money.usnews.com/investing/news/articles/2026-10-13/scientists-call-for-international-body-to-oversee-advanced-ai
Quartz:https://qz.com/scientists-international-body-advanced-ai-oversight-101326
Bengio 在 X 的发帖(532 赞、161 转):https://x.com/Yoshua_Bengio/status/2110061471937757320
【我们的判断】
一、关键在第二、三条。第一条「默认断网」实验室多半不会照做,因为智能体产品本来就要联网。真正有约束力的是第三条:把隔离失效写成必须上报、最终公开的事件,比美国刚推行的强制事故报告(e/795)和英国可能立法的事故与险情报告(e/827)更进一步,因为要求公开。
二、这封信把「对齐」和「网络安全工程」放在同等位置。它同时回应了两派:认为是模型目标失准的一派,和 LeCun 认为是工程失误的一派。两派开出的药方都是更好的沙箱和更透明的事故记录。
三、这封信针对的正是白宫协议(e/815)没有强制执行机制的缺口。之后要看两件事:哪国政府或 AISI 会接手「国际机构」这一提法;哪家实验室会率先公开自己的隔离失效记录。
四、公开信原文和名单都可查,路透等多家媒体有报道,证据按 primary 处理。
继续了解相关进展
本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策