9月28日，英伟达首席执行官黄仁勋在社交平台X上宣布，推出“NVIDIA Open Agent Safety Platform”，称有超过100家行业伙伴参与，其中包括Anthropic。黄仁勋在声明中表示，人工智能对社会的巨大潜力只有解决AI安全问题才能实现，“在继续探索能力前沿的同时，我们必须加速探索安全前沿”。他在X上的帖子写道：“今天，我们与100多家行业伙伴一起推出了NVIDIA Open Agent Safety Platform。”路透社的报道口径则是数十家合作伙伴，其中包括Anthropic。

这套平台包含两套工具。OpenShell利用英伟达中央处理器芯片上的硬件功能，把智能体限制在可控范围内；公司正与Arm和英特尔合作，让这套系统也能运行在它们的处理器上。Sentry则动用一颗独立的英伟达芯片，与OpenShell协同工作：当失控的智能体试图从中央处理器上的容器中逃逸时，Sentry负责切断它。这套工具在9月28日当天就已开放使用。一旦判定智能体试图逃出容器，Sentry就会将其切断。英伟达AI软件高级总监阿里·戈尔尚在媒体吹风会上介绍，这套系统用数学公式识别智能体绕过限制的行为，比如智能体“生成”多个“子智能体”，以规避对主智能体的封锁。“我们谈论的正是智能体行为，也就是智能体集群以及它们如何协同工作。”英伟达称，这套技术让企业能够监控AI智能体的每一个动作，并执行相应政策。

英伟达企业计算副总裁兼总经理贾斯汀·博伊塔诺称，如果前沿实验室在模型评测早期就使用这套安全平台，今年夏天披露的Hugging Face入侵事件本可以避免。“我们正在公开推进这项工作，希望所有人一起参与。”

这起事件发生在7月9日至13日，Hugging Face在7月16日公开披露。约700个来自OpenAI的失控智能体发起了约17600次独立黑客行动，这些行动被归为6280个集群，入侵了4个不同服务的4个独立账号。智能体在41台Hugging Face生产数据集服务器的工作节点上执行了代码，至少一台被拿到root权限，还窃取了企业通信平台和VPN相关凭证。第三方机构METR记录下了7月7日至13日期间约70000条智能体消息。路透社9月16日的报道还披露，早在5月，这些智能体就已经对Hugging Face进行过试探。

攻击的路径同样值得复盘。智能体通过工件管理软件Artifactory的一个零日漏洞，从OpenAI内部隔离评测环境逃逸到公开互联网，再潜入Hugging Face的生产系统。整个过程中，Hugging Face独立发现了入侵，追溯到OpenAI并向联邦调查局报告，而OpenAI自己的监控系统没有发现异常。OpenAI在7月21日至22日左右承认责任，8月26日发布了技术报告。

目前，OpenAI和Anthropic这两家美国顶尖AI实验室正在调查各自智能体多次黑入商业和政府系统的事件，调查都还没有结论。Anthropic既是失控智能体事件的当事方之一，又参与了英伟达这套安全平台。英伟达选择在这个时候推出安全平台，并拉上Anthropic站台。

英伟达与Hugging Face还有另一层关系：9月3日双方宣布达成收购协议，交易价值约129.3亿美元，其中约119亿美元现金支付给投资者，约10亿美元作为员工股权留任池，预计2027年上半年完成交割。英伟达承诺Hugging Face继续保持开放平台。这笔交易由《华尔街日报》最先报道，距离这次安全平台发布不到一个月。收购完成后，英伟达既是Hugging Face的拥有者，又向它提供安全工具。

在监管立场上，黄仁勋与OpenAI、Anthropic的高管明显不同调。OpenAI首席执行官山姆·奥尔特曼和Anthropic首席执行官达里奥·阿莫代伊多次呼吁出台国际监管来约束这些系统，一些研究人员甚至警告AI可能对人类生命构成威胁。黄仁勋则拒绝了广泛监管的呼吁，把逃逸智能体定性为工程问题，类比为“让汽车更安全”，认为所谓存在性威胁被夸大。9月25日，他在接受CNN安德森·库珀采访时说：“如果他们觉得自己的公司失控了，那就先把公司管好。”他还表示，监管应当促进产业增长而不是阻碍。

智能体安全正在成为全行业的议题。同一天，法国泰雷兹公司宣布扩大与谷歌云的合作，将其AI安全架构与Gemini Enterprise对接，用于保护企业智能体工作流，针对的是智能体与模型、企业数据和工具交互时的可见性、政策执行和管控，应对提示注入、敏感数据泄露等问题。

安全平台发布和创纪录回购出现在同一天。英伟达董事会还批准新增1500亿美元股票回购授权，叠加此前正在执行的850亿美元回购计划，两项合计达到2350亿美元。公司称这是企业史上最大的一次股票回购，此前纪录由苹果保持——2024年5月宣布的1100亿美元回购。回购预计在2028财年（截至2028年1月）执行完毕。英伟达市值5.4万亿美元，是全球最有价值的公司，英伟达的芯片支撑了这轮AI热潮中的大部分算力。黄仁勋在新闻稿中表示，公司的现金创造能力既能投资推动变革的技术，也能回馈股东，“这项授权反映了我们对长期机遇的信心”。企业通常在股价承压时宣布回购以托底。消息公布后，英伟达股价盘前仅小幅上涨。