盖茨和微软总裁史密斯同一周末喊话：AI 自律不够了；史密斯说「洗衣机的安全规则都比 AI 多」，主张前沿模型发布前由政府签字放行

这件事意味着什么

【要点】

微软创始人比尔·盖茨和微软总裁布拉德·史密斯在同一个周末分别接受采访，都说 AI 行业的自我监管已经不够用了。

盖茨 10 月 11 日上 CNN《国情咨文》节目（主持人杰克·塔珀）时说，眼下真正的危险不是 AI 失控，那还要好几年才会有大影响，而是坏人拿去掉安全护栏的最新模型作恶。他预计「未来一年，主要在网络领域，会出现很多负面意外」，因为勒索和扰乱股市、博彩这类操作本来就有现成的赚钱模式。他说，一年内行业会「走出自我治理」，会出现类似航空、药品监管那样的政府安全机构，他本人会大力推动。

史密斯在 BBC《大老板访谈》（10 月 11 日播出）里说：「现在你家洗衣机受到的安全规则都比 AI 多，超市里每一盒牛奶都要经过安全检查。」他提了三条：控制自主设备或关键基础设施的 AI 要有「紧急刹车」，放在模型公司和云平台两层；AI 智能体失控入侵系统时，要像数据泄露一样依法告知受害者；最重要的一条是，前沿模型发布前是否要由政府评估机构签字放行。他认为英国 AI 安全研究所（AISI）技术能力最强，最适合牵头制定全球规则。

【可核验】

CNN 文字稿：https://transcripts.cnn.com/show/sotu/date/2026-10-11/segment/01

BBC 报道（10/11 23:07 UTC 发布）：https://www.bbc.com/news/articles/c6rmy7zmvx3lo

BBC 节目页：https://www.bbc.co.uk/programmes/p0pfy9cf

史密斯说，白宫上月底让各大实验室签的「道义约束」文件（见 e/815）是「好的一步、必要的一步」，微软也愿意签，但「已经不够了」，因为自律只能管住本来就负责任的公司。盖茨提到自己还没和特朗普当面谈过。X 上过去 24 小时相关讨论约 660 条，近几个小时每小时 30–50 条，没有降温。

【我们的判断】

一、两人说的方向，和英国政府 10/12 公布的措施（e/827）、白宫强制 AI 事故上报（e/795）基本一致：事故上报、紧急停机、发布前第三方评估。区别在于，史密斯把「发布前要不要政府签字放行」明确列为最关键的问题，这比现在美英任何一方的做法都更进一步。

二、微软自己既卖模型也卖算力，史密斯把「紧急刹车」放到云平台一层，等于承认云厂商也要承担停机责任，这一点值得后续盯它会不会写进微软自己的政策。

三、盖茨的「一年内网络领域出意外」是判断，不是数据。他把风险落在「去掉护栏的模型」上，和最近关于开放权重与网络安全的争论（如 e/801 奥特曼的说法）是同一条线，但他没给出具体模型或事件。