美华头条7月15日综合报道 北京大学及相关科研机构组成的研究团队近日公布一套面向人工智能推理的混合光电分布式计算系统。该系统利用高速光链路连接五块可编程电子芯片,在一项小型图像降噪实验中,将1000张图像的处理时间缩短至105.16微秒,较研究团队设置的单块商用GPU对照测试快近149倍。
相关论文于2026年5月19日在线发表于《国家科学评论》,6月12日完成排版修订。研究由北京大学电子学院光子学与通信全国重点实验室、位于江苏南通的北京大学长三角光电科学研究院等单位参与完成,舒浩文、王兴军为通讯作者,项目由两人负责监督。
研究结果显示,通过改变多块芯片之间传输和处理数据的方式,计算能力相对有限的芯片也可能在结构固定、延迟敏感的任务中获得较高效率。不过,这项成果目前仍处于实验验证阶段,尚不能证明大型语言模型、生成式人工智能或一般数据中心任务也能获得相同幅度的性能提升。
五块FPGA通过光链路组成计算流水线
实验系统主要由五块现场可编程门阵列芯片、硅光收发器以及一块16×16无阻塞光交换芯片构成。
现场可编程门阵列通常简称FPGA,是一种可以根据具体任务重新配置内部逻辑和计算资源的电子芯片。研究人员将一个五层卷积神经网络拆分为五个阶段,分别部署到五块FPGA上,每块芯片负责其中一层计算。
一块FPGA完成计算后,产生的中间数据由硅光收发器从电信号转换为光信号,再经光交换芯片传送至下一块FPGA。五块芯片由此形成连续运行的计算流水线,不同批次的数据可以同时处于不同计算阶段。
研究使用的硅光收发器提供400Gbps光学输入输出能力,光交换芯片可以根据任务需要重新配置芯片之间的连接路径。论文显示,团队测试的20条芯片间通信路径在启用纠错机制后均实现无误码传输。整个架构理论上最多可连接16块处理芯片,聚合交换带宽上限可达到6.4Tbps。
技术重点是光互联,而非完全使用光完成计算
尽管该系统使用了硅光收发器和光交换芯片,但实验中的卷积、激活函数和浮点运算仍由FPGA内部的电子电路完成。
光学器件的主要作用,是承担不同电子芯片之间的数据传输和路径切换。因此,这项成果更准确的技术定位是“全光互联支持的混合光电计算系统”,而不是一块完全依靠光执行人工智能运算的光计算芯片。
这一差别决定了该研究的主要目标并非直接替代GPU,而是减少多块计算芯片协同工作时产生的数据传输、存储访问和任务等待时间。
在传统计算架构中,神经网络完成一层运算后,中间结果通常需要进入外部存储器,随后再被下一层读取。随着模型规模扩大,计算芯片可能因等待数据而无法持续工作,形成通常所说的“内存墙”或数据搬运瓶颈。
北大团队通过把不同网络层部署在不同芯片上,使中间结果直接沿光链路进入下一计算阶段,从而减少反复访问外部存储器的次数。研究人员认为,这种架构能够提高计算单元的实际利用率,而不只是增加系统的理论峰值算力。
特定图像任务测得近149倍延迟差距
为验证系统性能,研究人员建立了一个五层卷积神经网络,对Fashion-MNIST数据集中的图像执行降噪处理。
实验输入为1000张32×32像素的图像,所有计算均采用32位浮点精度。模型在系统外完成训练后,被逐层部署到五块FPGA中,因此该实验测试的是模型推理过程,不包括模型训练。
测量结果显示,混合光电系统完成全部图像处理需要105.16微秒。论文估算,该任务在计算资源完全利用的理想状态下最低需要99.6微秒,实际结果对应的计算资源利用率约为94.7%。
研究团队随后在一块商用GPU上运行相同模型和相同数量的图像。对照测试用时15.643毫秒。按照论文公布的数据计算,混合光电系统在这一特定任务中的处理延迟较GPU对照结果降低约99.3%,速度差距接近149倍。
五块FPGA部署的理论单精度计算能力约为1.969万亿次浮点运算每秒,而对照GPU约为16.96万亿次。前者约相当于后者理论计算能力的11.6%。
这一结果说明,在规模较小、结构固定的模型中,计算速度并不只取决于处理器拥有多少理论算力。数据传输、内存访问、任务调度和硬件利用率,同样可能决定系统的实际表现。
计算资源比例不能直接解释为耗电比例
论文所称的约“九分之一计算资源”,指实验系统配置的理论计算能力约为对照GPU的11.6%,并不意味着整套系统的实际耗电量已经降低至GPU平台的九分之一。
完整能耗比较需要同时计入五块FPGA、硅光收发器、光交换芯片、控制设备、电源和散热系统。GPU对照平台也需要计入处理器、内存、主板和其他设备。
两套系统的硬件构成、运行方式和测量范围并不相同,仅凭理论计算能力比例,不能得出整机功耗降低相同比例的结论。
由于混合光电系统完成实验所需时间明显较短,其完成单次任务所消耗的总能量可能具有优势,但这一判断仍需建立在统一测量口径和完整整机功耗数据之上。
实验结果具有明确适用范围
近149倍的速度差距来自研究团队设定的五层图像降噪模型,不能直接推广至所有人工智能应用。
首先,实验处理的是32×32像素小型图像,模型只有五层,整体运算规模远低于大型语言模型、视觉Transformer、扩散模型和多模态生成模型。论文作者也指出,实验使用的5×5卷积核属于现代人工智能标准下相对有限的工作负载。
其次,FPGA系统是按照固定神经网络专门配置的。每块芯片承担预先确定的计算层,数据传输顺序和光学路径也已经提前设置。这种专用流水线可以减少通用任务调度开销,但灵活性低于能够运行多种模型和软件框架的GPU。
再次,实验比较的是专用硬件流水线与通用GPU在单一任务中的端到端延迟。两种平台的设计目标并不完全相同,因此不宜将实验结果解释为FPGA或光互联系统在基础计算性能上普遍领先GPU近149倍。
此外,这项研究只验证了推理,没有测试模型训练。大型模型训练涉及反向传播、参数更新、梯度同步和大规模存储访问,其计算与通信要求明显高于固定的图像降噪任务。
技术价值在于验证新的系统组织方式
从积极角度看,这项成果说明,改善芯片之间的数据流动方式,可能成为提升人工智能系统效率的重要途径。
当前人工智能基础设施主要通过增加GPU数量扩大计算能力,但随着集群规模增长,芯片、存储器、服务器和交换设备之间的数据传输压力也在上升。如果通信速度无法同步提高,新增计算资源可能无法被充分利用。
光互联具有较高带宽和较低传输延迟,适合在多个计算节点之间持续移动大量数据。对于模型固定、数据连续进入、响应时间要求较高的任务,光学流水线可能减少计算单元等待时间。
潜在应用包括工业视觉检测、机器人控制、自动驾驶感知、医学影像预处理、通信信号分析和边缘设备实时识别。这些场景通常会长期运行相同或相似的模型,更适合采用提前配置的专用硬件。
从这一角度看,该研究的意义并非证明某一种芯片已经全面超过GPU,而是展示了一种通过计算、存储和互联协同设计提高硬件利用率的方法。
规模化应用仍面临多项工程问题
从审慎角度看,实验室系统距离大规模部署仍存在多道关口。
真实数据中心通常需要同时运行多个模型,并根据输入规模和用户需求动态调配计算资源。固定流水线在执行单一任务时效率较高,但模型结构发生变化后,FPGA和光交换路径可能需要重新配置。
如果任务无法均匀分配到不同芯片,部分节点仍可能出现等待和闲置。大型模型还需要存储和读取海量参数,光互联虽能改善芯片之间的数据传输,却不能单独解决全部内存容量和数据管理问题。
系统还需要面对硅光器件封装、光电转换效率、连接损耗、热管理、生产良率、软件兼容性和长期运行可靠性等工程挑战。
论文提出,未来可通过共封装光学等方式缩短处理芯片与光学收发器之间的电连接距离,减少协议和信号损耗,提高实际有效带宽。但这些改进尚需进一步设计和验证。
全球AI硬件竞争正向互联环节延伸
光互联并非单一国家或单一研究团队的发展方向。随着人工智能数据中心规模扩大,硅光互联、光交换和共封装光学已经成为全球半导体产业的重要研发领域。
英伟达此前公布Spectrum-X和Quantum-X硅光网络交换方案,计划把光学器件更紧密地集成到交换芯片中,以提高大型GPU集群的带宽和能源效率。该公司公布的部分方案支持每端口1.6Tbps连接能力,面向大规模人工智能计算网络。
其他芯片和光子技术企业也在推进类似产品。这表明,人工智能硬件竞争正在由单纯比较单块芯片算力,延伸至计算节点如何连接、数据如何传输,以及整个系统如何协调运行。
北大团队此次研究并非首次提出利用光连接计算芯片,其特点在于将硅光收发器、可重构光交换芯片、五块FPGA和神经网络算法整合为完整实验系统,并测量实际推理任务的端到端延迟。
与此同时,佛罗里达大学等机构正在探索另一条技术路线,即让光直接参与卷积计算。相关原型使用激光和片上微型透镜处理图像数据,并在手写数字识别实验中取得约98%的准确率。与北大团队主要改善芯片间通信不同,这类研究重点是利用光学器件直接执行部分数学运算。
两种路线可能共同进入未来人工智能系统:电子芯片继续承担高精度和可编程计算,光学器件负责高速数据传输,并在部分适合的任务中直接参与运算。
从实验结果走向实际应用仍需进一步验证
综合现有数据,北大团队的研究完成了从光学器件、芯片连接、计算任务部署到端到端性能测试的系统级验证,显示高带宽光互联可以在特定任务中减少通信等待,提高计算资源利用率。
但现有结果尚未覆盖大型语言模型、复杂生成式模型、长期连续运行或真实数据中心环境。研究团队也尚未公布商业部署、量产成本或大规模系统测试结果。
下一阶段的关键问题包括:能否在更复杂模型中保持低延迟优势,能否快速适配不同人工智能任务,能否由独立团队复现实验结果,以及在计入全部硬件后是否仍具备能耗和成本优势。
在更多验证完成前,将这项成果视为光互联支持人工智能推理的一项重要实验进展较为准确;将其解读为已经全面取代GPU或普遍实现百倍加速,则超出了现有数据能够证明的范围。
这项研究所反映的更长期趋势是,人工智能硬件发展正在从追求单块芯片峰值算力,转向计算、存储、互联和算法部署方式的整体优化。未来决定AI系统效率的,可能不仅是拥有多少计算资源,也包括这些资源能否持续、高效和协调地运行。

读者评论
0 条评论