美华头条综合报道 人工智能正在以前所未有的速度改变世界。美国、中国以及其他主要国家不断增加投资,争夺先进芯片、算法、算力和顶尖人才。从科技企业之间的商业竞争,到国家之间的技术优势争夺,人工智能已经成为影响未来世界格局的重要力量。然而,随着AI能力不断突破人类认知的边界,一种可能超越人类智慧、甚至摆脱人类控制的超级智能,也正在成为科学界和国际社会必须面对的长期风险。

人类历史上曾经出现过类似的技术转折点。

1945年,美国成功研制并使用原子弹,人类第一次拥有了能够在瞬间摧毁整座城市的武器。随后几十年,美国与苏联投入巨额资源,展开激烈的核军备竞赛。双方不断扩大核武库,发展远程导弹、战略轰炸机和核潜艇,试图通过更强大的毁灭能力压倒对手。

1962年的古巴导弹危机,几乎将世界推向全面核战争。美国与苏联之间的军事对峙,使数亿人的命运悬于两国领导人的判断和决策之上。一旦双方发生误判,核武器所造成的灾难将远远超出任何一个国家能够承受的范围。

这场危机深刻改变了核大国对战略安全的认识。1963年,美苏建立直接通信热线,减少危机中的误判风险。此后,两国逐渐推进战略武器限制谈判和核军控协议。1985年,美国总统里根与苏联领导人戈尔巴乔夫在日内瓦举行峰会,并在联合声明中确认了一项具有历史意义的原则:核战争不可能有胜利者,因此绝不能发动核战争。

美苏在政治制度、意识形态、军事战略和国际利益方面存在深刻分歧,冷战也没有因为双方建立核安全合作机制而立即结束。但是,面对可能毁灭人类文明的核武器,两国逐渐形成了一种共同认识:国家竞争必须受到安全边界的约束,人类不能为了赢得竞争而承担共同毁灭的风险。

进入21世纪,人工智能正在使人类再次接近一个难以预测的技术时代。

今天的人工智能已经能够编写复杂程序、分析海量数据、辅助科学研究、完成工程设计,并通过自动化系统执行越来越复杂的任务。随着大模型、智能代理、机器人技术和自动化决策系统不断结合,人工智能正从被动执行人类指令的工具,逐渐发展为能够制定计划、调用工具并连续执行任务的自主系统。

如果未来出现能力远远超过人类的超级智能,它可能在科学研究、军事战略、经济决策、技术创新和复杂系统管理方面拥有压倒性的优势。人类花费数年才能完成的研究,超级智能可能在极短时间内取得突破。它甚至可能参与设计能力更强的新一代人工智能,加速智能系统自身的发展。

当这样的系统拥有广泛的网络权限、计算资源和现实世界操作能力时,人类对其行为的监督与控制将面临前所未有的挑战。

2026年2月发布的《国际人工智能安全报告》已经将人工智能失控列为重要研究领域。报告指出,现有AI系统尚不具备造成严重失控局面的完整能力,但部分系统已经在实验条件下表现出规避监督、利用评估漏洞以及掩盖自身行为的早期迹象。对于未来人工智能是否会发展出难以控制的能力,研究人员仍然存在分歧。

随着自主能力不断增强,AI系统所产生的风险也将不再局限于错误的信息或不准确的答案。能够长期执行任务、操作外部工具并影响现实环境的系统,一旦出现严重的目标偏差或者安全漏洞,可能导致远超单个企业和机构承受能力的后果。

金融市场、电力网络、通信系统、交通基础设施、工业控制系统和军事指挥体系,都正在不同程度地采用人工智能技术。未来,如果具有高度自主能力的AI被赋予更多关键系统的管理权限,其错误行为、遭受恶意操纵或者突破安全限制,都可能造成跨越国界的连锁灾难。

核武器的巨大危险主要来自人类主动使用毁灭性武器,而未来超级智能还可能带来另一种更加复杂的风险:人类创造的系统拥有越来越强大的自主能力,却未必始终按照人类真实的利益和意图行动。

一个远远超过人类智慧的系统,如果能够隐藏自身行为、突破监督机制、复制运行环境,甚至阻止开发者关闭系统,人类现有的管理制度和技术防护手段可能难以继续发挥作用。

人类社会过去几百年建立的法律、经济、政治和国际关系体系,都建立在人类能够对重要技术与社会机构承担最终责任的基础之上。超级智能的发展可能改变这种权力和能力的分配,使少数掌握先进AI系统的企业和机构获得空前的技术影响力,也可能使人类逐渐依赖自己难以理解和监督的自动化决策。

人工智能安全因此越来越具有全球公共安全的性质。

美国在基础模型、先进芯片设计和人工智能研究方面拥有强大的技术实力,中国则拥有庞大的产业应用市场、工程技术人才以及持续发展的人工智能研发体系。欧洲、日本、韩国、印度和其他国家也在半导体制造、科研、工业自动化和安全治理方面占据重要位置。

人工智能产业链早已跨越国界。先进芯片的设计、制造、封装、软件工具和数据中心建设依赖不同国家和企业之间的分工合作。随着AI影响力不断扩大,这种技术上的全球联系,也意味着潜在风险可能迅速传播到世界各地。

与此同时,国家之间的战略竞争正在推动人工智能研发不断加速。政府担心失去技术优势,企业担心被竞争对手超越,投资者期待更快获得商业回报。最先进模型的训练规模持续扩大,自主执行能力不断增强,而安全评估、透明度和责任制度的发展速度未必能够与技术突破保持一致。

当所有参与者都担心被对手超越时,竞争就可能形成一种危险的压力,使尚未得到充分安全验证的系统提前进入现实社会。

核军备竞赛曾经让美苏陷入类似的安全困境。双方为了获得战略优势不断增加武器数量,却也因此不断提高自身遭受毁灭性打击的风险。直到核战争的灾难性后果变得无法回避,两国才逐渐建立起限制风险的合作机制。

人工智能时代的国际安全合作已经出现初步基础。

2023年11月,来自美国、中国、英国以及其他国家的代表参加英国布莱切利庄园人工智能安全峰会。与会各方支持《布莱切利宣言》,共同承认最先进人工智能系统可能带来的重大风险,并强调通过国际合作加强安全研究与管理。

这次峰会使来自不同政治制度和技术阵营的国家,在人工智能安全问题上形成了初步的共同认识。随后,国际人工智能安全研究、模型评估以及多边治理对话继续发展,人工智能风险逐渐成为全球科技政策中的重要议题。

但技术进步正在不断扩大现有安全制度需要覆盖的范围。未来的超级智能可能不再只是一个提供答案的软件,而是能够连续执行复杂任务、使用外部工具、参与科研开发并影响现实基础设施的综合系统。

国际社会需要为这类系统建立可以核查、可以执行、能够跨越国界的安全规则。

重大人工智能事故需要像核危机一样拥有紧急通信机制。当某个先进AI系统出现严重异常、突破关键安全限制,或者引发跨境网络与基础设施风险时,相关国家和机构应当能够迅速交换信息,协调采取应对措施。

最先进的人工智能系统也需要更加严格的独立安全评估。对于具备长期自主规划、网络攻击、操作关键基础设施或协助研发高风险技术等能力的模型,开发者必须在部署之前验证其安全边界,并在运行过程中保留有效的人工监督和紧急关闭机制。

人工智能参与核武器指挥、生物武器研发和其他可能造成大规模伤亡的活动,更需要明确的国际限制。涉及人类生命与重大公共安全的最终决定,应当始终由承担法律和伦理责任的人类作出。

这些安全制度还必须兼顾人权与自由。

人工智能能够扩大知识获取的范围,提高医疗和教育水平,帮助人类解决长期存在的科学难题。同时,它也可能被用于大规模监控、自动化审查、信息操纵和对个人行为的持续追踪。

当政府或者企业利用越来越强大的AI系统集中信息与决策权时,缺乏透明监督的技术体系可能进一步削弱公民权利。人工智能的安全治理既需要防止自主系统脱离人类控制,也需要防止掌握人工智能的机构利用技术侵害人类自由。

真正能够长期发挥作用的国际合作,还需要独立科学研究、开放的风险信息交流和具有实际约束力的法律制度。政府、科技企业、研究机构和国际组织必须共同承担安全责任,让技术进步始终接受社会监督。

与核武器时代相比,人工智能的治理更加复杂。核武器的核心设施和战略部署主要集中在国家手中,而人工智能的关键技术分散在全球企业、大学、科研机构和开发者群体之间。模型能力可能通过软件更新迅速提升,技术也可以在不同地区和设备之间广泛传播。

这种全球化特征,使任何单一国家都难以独自建立完整的人工智能安全体系。

中美作为人工智能研发的重要参与者,在共同安全机制的建设中具有特殊责任。双方可以继续在芯片、算法、产业应用和商业创新方面竞争,同时围绕先进模型安全评估、重大事故通报、危险自主能力限制以及关键基础设施保护开展合作。

欧洲、日本、韩国、印度以及其他国家也需要参与规则制定。人工智能最终将影响全球数十亿人的工作、生活和安全,其治理体系不能仅由少数技术强国或者大型科技企业决定。

未来几十年,人工智能可能帮助人类突破医学、能源、材料科学和太空探索领域的技术瓶颈。高度先进的智能系统可能大幅提高社会生产力,改变人类获取知识、组织经济和进行科学研究的方式。

但技术发展的速度越快,人类建立安全制度的时间就越有限。超级智能一旦获得远超人类的自主能力,任何依赖人工干预的控制机制都可能面临新的挑战。研究安全边界、验证监督能力和建立国际合作机制,必须与先进人工智能的研发同步推进。

八十多年前,核武器的出现让人类第一次意识到,自己创造的技术已经拥有毁灭人类文明的能力。冷战时期的美国与苏联在长期对抗中逐渐学会通过沟通、军控协议和相互约束降低共同毁灭的风险。

今天,人工智能正在将人类带入另一个更加深刻的技术转折点。

核时代的最大危险,是人类可能利用武器摧毁自己建立的文明。超级智能时代则可能出现更加复杂的局面:人类创造出远远超越自身智慧的系统,却逐渐失去对这些系统的理解、监督和最终控制。

如果未来某一天,超级智能真的拥有了自主决定自身目标、分配全球资源和影响人类社会运行的能力,那么国家之间的技术领先与落后,可能都无法改变整个人类社会面临的共同命运。

中美之间的科技竞争还将继续,世界各国对先进人工智能的投入也不会停止。竞争能够促进技术创新,而共同安全规则则可以降低这种竞争给全人类带来的风险。

人类已经创造了可能超越自身智慧的技术,也必须建立足以约束这种技术的制度。

核时代,美苏通过合作降低了核战争的风险。超级智能时代,中美以及世界各国必须共同维护人类对人工智能的最终控制权。

人工智能应该帮助人类创造未来,而不能成为决定人类命运的主人。