比尔·盖茨近期在接受NBC《与媒体见面》节目采访时警告，人工智能可能带来极其严重的安全风险，并强调仅靠行业自我监管并不足够，需要政府、执法机构和公共政策体系参与建立必要的安全保障机制。

当地时间9月24日，第81届联合国大会高级别周期间，纽约举办了一场以和平、团结与可持续发展为主题的国际交流活动。与会人士围绕国际协作、和平建设与社会包容等议题展开讨论，探讨在全球变局与多元分歧中凝聚共识、共促发展的路径。

9月25日，NBC提前公布了比尔·盖茨接受《与媒体见面》节目采访的部分内容。在9月27日播出的完整采访中，盖茨发出了一项严厉警告：人工智能已经是一种“足够强大”的工具，“足以引发导致十亿人死亡的事件”。他认为，从未有过一种武器，能够与怀有恶意的人使用最新AI工具所形成的威胁相比。盖茨明确表示，仅靠行业自我监管远远不够，需要执法部门和政界人士参与防护措施和监控机制的设计，而且这些措施必须成为硬性要求。

十天之后，10月4日，长期坚定看好AI发展的软银集团创始人孙正义，在京都“社会中的科学与技术”论坛相关活动上，罕见地将安全风险置于公开表述的突出位置。他表示，AI能力的指数级增长使各国建立互信变得至关重要。如果超级智能落入不当之手，可能会变得“超级危险”。他进一步强调，面对这样的技术，人类已经没有继续彼此争斗的余地。

两位重量级人物在很短的时间内相继发出对AI风险的严肃警告。这并不意味着关于人工智能风险的所有争论已经结束，却至少说明一个趋势正在变得越来越清晰：随着AI能力快速提升，对重大风险的关注正在从少数研究机构和安全专家进入更广泛的科技、产业和公共政策领域。

风险共识正在扩大。但与此同时，围绕“谁来治理、如何治理”的分歧，也正在以另一种方式扩大。

分歧不在“是否有风险”

9月15日，英伟达首席执行官黄仁勋在旧金山Dreamforce大会上表达了明显不同的判断。他认为，AI行业“不需要任何新的法律，也不需要新的监管”，AI安全首先是一个工程问题，市场力量能够推动企业在创新的同时提高产品安全性。

这一判断与盖茨主张具有法律约束力的“硬性要求”，构成了两种不同的治理思路。

同一天，在洛杉矶All-In峰会上，马斯克提出了另一种机制。他建议头部AI公司——包括xAI、OpenAI、Anthropic、谷歌、Meta以及领先的中国AI公司——在模型发布之前相互开放API，由竞争对手使用各自的安全测试工具进行交叉测试，以发现生物武器、核武器、欺骗等潜在风险。

马斯克同时质疑AI行业中存在的一种矛盾现象：一些企业一方面公开讨论人工智能可能带来的严重甚至生存性风险，另一方面又以前所未有的速度扩大融资、算力投入和模型竞争。他曾在All-In峰会上表示：“他们一边说着有10%概率会毁灭人类，一边又去问投资者，在IPO里想要认购多少份额。这简直就像在玩某种疯狂的四维象棋”。

9月29日，美国政府与谷歌、Anthropic、Meta、OpenAI、xAI和英伟达六家企业签署《前沿责任联合承诺》（Joint Commitment on Frontier Responsibilities）。协议提出四层管控机制，包括内部安全控制、内部监督、独立外部评估以及董事会层面的独立监督委员会，但协议本身并不具有法律强制力。

值得注意的是，黄仁勋和马斯克所代表的企业都参与了这项协议。这意味着，今天AI治理真正的分歧已经很难简单概括为“监管”与“反监管”、“政府”与“市场”之间的二元对立。越来越多的技术企业并不否认安全治理的必要性，真正存在分歧的是：治理应该在哪一个层级发生？应该具有多大的强制力？谁负责制定标准？谁负责验证？出现重大事故之后，又由谁承担责任？

换句话说，分歧正在从“要不要治理”，转向“如何治理”，并进一步指向一个更加根本的问题：谁拥有定义治理规则的权力？

三种治理逻辑

如果将盖茨、黄仁勋、马斯克、孙正义以及《前沿责任联合承诺》放在一起观察，可以看到当前AI治理讨论中正在形成三种不同但又相互关联的治理逻辑。

第一种是公共权力介入。盖茨是这一逻辑最明确的倡导者之一。他的判断基于一个基本事实：如果人工智能可能产生超越单个企业、单一行业甚至单个国家应对能力的重大风险，那么安全就不能完全依赖开发者自身的判断。当AI风险具有明显的公共性和外部性时，政府、立法机构和执法部门就不可能长期置身事外。公共权力需要设定最低安全标准，并通过具有强制力的制度确保这些标准得到执行。

第二种是行业治理与技术验证。黄仁勋强调工程能力和市场约束，马斯克提出竞争对手交叉测试，《前沿责任联合承诺》则进一步引入独立外部评估和董事会监督。这些方案虽然并不相同，却具有一个共同特征：它们首先希望利用技术产业自身的专业能力解决技术风险。这种思路并非没有合理性。AI技术发展速度远快于传统立法周期，目前，对模型能力边界、训练机制和潜在风险具有深入理解的专业能力，仍然高度集中在少数前沿实验室和技术机构之中。如果完全绕开这些主体，仅仅依靠传统行政体系设计规则，同样可能产生监管滞后甚至监管失效。

第三种是跨国治理与国际协调。孙正义的警告将问题推向了更高层面。当他呼吁各国建立互信时，他面对的是一个无法回避的现实：人工智能的模型、算力、资本、人才、数据以及潜在安全风险都具有明显的跨境属性。即使一个国家建立了严格的监管体系，也无法单独解决全球性的AI安全问题。因此，仅仅讨论一个国家内部究竟应该由政府还是企业承担治理责任已经不够。人工智能最终提出的是一个全球治理问题：不同国家如何在技术竞争仍然存在的情况下，就最低安全标准、重大风险评估、信息披露和事故处置形成必要的共同规则。

由此来看，这三种治理逻辑并不一定相互排斥。它们更像是三个不同的治理层级：企业治理解决开发者如何约束自己；国家监管解决公共权力如何设定底线；全球治理解决不同国家如何形成最低限度的共同规则。真正值得探索的，可能不是在三者之间进行单项选择，而是建立一条从企业责任、第三方验证，到公共监管和国际协调逐步递进的制度链条。

技术领先者是否自动获得规则定义权？

三种治理逻辑的分歧，表面上是对“如何治理”的不同回答，进一步追问，却会触及一个更加根本的问题：技术能力的领先，是否意味着规则制定权的领先？

黄仁勋强调工程治理，其背后的一个重要逻辑是：最了解技术的人，也最有能力判断技术风险。这种判断具有现实基础。但是，技术开发者同时也是市场竞争者和利益相关者。当模型能力、企业估值、资本投入和市场份额紧密联系在一起时，任何企业对“什么是安全”“什么时候可以发布”的判断，都不可能完全脱离其自身所处的竞争环境。

我此前在讨论AI企业的“减速共识”时曾提出，企业共识可以成为全球治理的重要起点，但不能自动等同于全球治理本身。企业提出安全要求，既可能源于真实的风险判断，也可能客观上影响市场准入和竞争格局。因此，真正需要审查的不是企业家的主观动机，而是制度设计能否确保标准制定权、验证权和问责权不被任何利益相关者垄断。

这一问题同样适用于当前的治理路径之争。黄仁勋所强调的市场机制和马斯克提出的竞争性验证，都充分利用了技术领先企业的专业能力，但规则制定和安全验证如果始终停留在少数头部企业之间，就可能产生另一个问题：技术能力最强的主体，会不会同时成为定义“什么是安全”的主体？

盖茨所强调的强制性监管，本质上是试图将一部分规则定义权从技术产业内部转移到具有公共问责机制的制度体系之中。但这并不意味着政府监管天然优于企业治理。强制性监管可能滞后于技术发展，也可能因规则设计不当而抑制创新；企业自律和技术验证则可能因为缺乏外部约束而失去足够的执行力。因此，真正的问题并不是简单选择“政府”还是“企业”，而是如何建立一种权力结构，使任何一个主体都不能同时垄断规则制定、风险验证和最终裁决。

2026年9月23日，联合国安理会在纽约联合国总部举行“人工智能与国际安全”高级别会议。OpenAI首席执行官山姆·奥特曼等人工智能领域代表参与会议。随着前沿AI能力快速提升，如何在技术创新、公共权力、独立验证与国际协调之间建立有效治理机制，正在成为全球人工智能治理的重要议题。

谁来约束拥有最强能力的人？

OpenAI首席执行官山姆·奥特曼的立场，为这一问题提供了一个具有代表性的案例。

9月23日，在联合国安理会“人工智能与国际安全”高级别会议上，奥特曼呼吁建立能够比较证据、验证合规情况并形成共同认知的国际标准，同时明确表示，人工智能治理应当通过民主程序，由对公众负责的政府参与塑造。与此同时，他也警告，不应让任何一个人、一家公司或者一个国家利用最强大的AI模型，将自己的世界观强加给其他人。

这两个判断放在一起非常值得思考。一方面，最先进AI能力目前高度集中在少数前沿实验室之中，而这些实验室拥有普通监管机构难以复制的技术知识；另一方面，如果社会因此将安全标准、能力评估乃至规则制定都交给这些实验室，又可能进一步强化原本已经存在的能力集中。这构成了AI治理中的一个制度悖论：我们需要最了解AI的人参与治理，却又不能让最拥有AI能力的人垄断治理。

同样的逻辑也适用于政府。技术能力不能自动转化为规则制定权，政府监管权也不能天然等同于治理正当性。政府同样可能受到国家竞争、安全战略和产业利益的影响。因此，真正具有公共合法性的AI治理，不应把希望寄托在任何单一主体身上，而应在技术专业性、公共权力、独立验证、社会参与和国际协调之间形成相互制衡的制度结构。

2026年10月4日，软银集团创始人孙正义在日本京都举行的STS论坛相关活动上表示，随着AI能力呈指数级增长，各国建立互信与加强合作变得愈发重要。他警告，如果超级智能落入不当之手，可能会变得“超级危险”。

从路径分歧走向制度选择

回到盖茨的警告和孙正义的呼吁。他们的声音之所以值得重视，不仅因为他们再次提醒人们人工智能可能带来的重大风险，更因为这些警告暴露出了一个越来越现实的治理困境：当越来越多的人开始承认风险存在时，治理行动却并没有因此自动形成。

原因就在于，风险共识只是治理的起点。真正困难的问题始终发生在下一步：什么风险需要干预？由谁判断？依据什么标准？谁来验证？规则对谁具有约束力？一旦发生重大事故，又由谁承担责任？

我在《创新逻辑：全球创新治理与中国方案》中讨论全球创新竞争时，一个基本判断是：未来真正的竞争，不仅是技术能力的竞争，更是规则制定、知识组织与治理能力的综合竞争。今天围绕AI治理路径出现的分歧，正在使这一问题变得更加具体。

人工智能正在以前所未有的速度提升人类“能够做什么”的能力，但制度建设必须回答另外几个问题：什么应该做？什么不能做？谁有权决定？谁为后果负责？这正是技术能力快速演进与治理能力建设之间日益凸显的张力。

值得注意的是，9月29日签署的《前沿责任联合承诺》本身已经表现出一种制度演化的可能性：从企业承诺开始，引入独立验证和公司治理机制，并明确留下未来进入法律和监管体系的空间。这意味着AI治理真正需要寻找的，或许不是“监管”与“自律”之间的单选答案，而是一条从企业责任、第三方验证，到公共监管和法律制度，再到国际协调逐步递进的治理链条。

在这一过程中，联合国的作用尤其值得重视。在联合国安理会“人工智能与国际安全”公开会上，中国常驻联合国代表傅聪强调，应支持联合国在人工智能全球治理中发挥主渠道作用，加强各国发展战略、治理规则和技术标准的对接协调，推动形成具有广泛共识的全球治理框架。这一主张背后的意义不仅在于建立国际规则，更在于一个基本的治理原则：全球性的技术，应当有全球性的参与；影响全人类的规则，不能只由少数技术领先企业或者少数国家定义。

盖茨认为，安全保障必须成为硬性要求。孙正义强调，人类已经没有继续彼此争斗的余地。他们的急迫感最终指向了同一个方向：AI治理不能永远停留在风险警告阶段。但是，治理真正困难的部分，也恰恰从这里开始。

规则由谁制定？安全由谁验证？权力由谁监督？责任由谁承担？

全球AI治理的真正考验，或许已经不再只是能否形成风险共识。随着风险共识逐渐扩大，更深层的考验正在浮现：人类能否建立一种既能够约束失控风险、又不扼杀技术创新，既能够充分利用技术领先者的专业能力、又防止治理权被少数主体垄断的制度安排。

技术能力决定人类“能够做什么”，治理能力则决定人类“应该做什么、允许做什么，以及由谁为后果负责”。当人工智能越来越强大，这两种能力之间能否保持平衡，可能比“AI最终会有多强大”更加重要。

主要参考资料：

· 比尔·盖茨接受NBC《与媒体见面》节目采访（2026年9月25日公布部分内容，9月27日完整播出）；

· 孙正义在京都“社会中的科学与技术”论坛相关活动上的发言（2026年10月4日）；

· 黄仁勋在Salesforce Dreamforce大会上的发言（2026年9月15日）；

· 马斯克在All-In峰会上的发言（2026年9月15日）；

· 山姆·奥特曼在联合国安理会“人工智能与国际安全”高级别会议上的发言（2026年9月23日）；

· 《前沿责任联合承诺》（Joint Commitment on Frontier Responsibilities）及相关资料（2026年9月29日）；

· 谢云龙：《当AI巨头共同提出“减速”——前沿安全共识背后的治理困局》（2026年9月）；

· 谢云龙：《创新逻辑：全球创新治理与中国方案》；

· 傅聪大使在联合国安理会“人工智能与国际安全”公开会上的发言（2026年9月23日）。

作者谢云龙，系全球创新战略与治理学者，世界创新大会（WIC）创始人、秘书长。主要开展中国与全球创新战略、创新政策、创新治理及创新发展模式研究。

文章来源：世界创新大会，版权属于原作者，转载请注明文章作者及来源。