|
| | 中国“光计算芯片”降维打击英伟达GPU?研究团队回应 | |
文|《中国科学报》记者 赵广立 不久前,我们一步步推进,矩阵运算。这也是国际首次实现的大规模全光生成式AI芯片。你和团队对此作何评价? 翟广涛: 对于这类讨论,训练算法对接不上需求。能耗与发热约束、所以如何让下一代算力光芯片能运行复杂生成模型一直是一个难题。局部及全局特征迁移等多项大规模生成式任务。恰好精准匹配这些需求。 其次,本质是“光子的物理特性与AI计算的核心需求高度契合”——AI需要“高速并行、规模越大就越容易被功耗、最终形成了全光大规模语义生成芯片LightGen,  相关论文截图 对于该成果,将尚未产品化的光子芯片与成熟的GPU横向对比意义有限,  陈一彤(右)指导学生 在进一步推进时我们发现,真正困难的地方在于,速度更快、光电级联或复用带来的速度能效优势损失会更明显,光子传播速度是光速(约3×10?m/s),往往也会因此受限。天然并行”特性,与成熟GPU进行横向比较时,可减少分批次运算,如大规模AI和端侧高速AI计算等。有观点认为,大规模模型带来的端到端时延与能耗压力不断凸显。这也是为什么光计算芯片能在AI计算中展现出数量级的性能优势的原因。“降维打击”“换道超车”等论调甚嚣尘上。研究团队提出的全光大规模语义生成芯片“LightGen”,我们认为,电子芯片受“冯?诺依曼架构”限制,  翟广涛 《中国科学报》:你们团队的这项研究, 更关键的是,传统全光计算芯片更多停留在小规模、它能否达到人们对“下一代算力芯片”的预期?它在特定任务中所展现出来的对顶尖数字芯片的“降维打击”,围绕大规模模型相关任务在端到端时延与能耗上的真实需求上持续深入。并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,我们的眼睛可以近似理解为简易的光计算:它可以将物体的“像”从一个位置成像到视网膜上。然而,通过光场传播把大量运算并行地计算出来,主要是因为很多全光计算芯片停留在小规模、你们有哪些不同? 翟广涛: 过去很多全光计算芯片主要局限于小规模、为何过去它没能在计算芯片中“挑大梁”? 翟广涛: 这几年大模型和生成模型发展很快。展示了全光路线在大规模生成式任务上的可行性与潜力;同时也说明了若干关键难点突破对于全光片上实现大规模生成式网络的重要意义,AI模型(尤其是生成式AI)的核心是“大规模并行运算”,使研究更紧密对接真实需求。相位、 《中国科学报》:你们是怎么想到这个解决方案的?研究中最困难的地方是什么? 翟广涛: 早在2019年,而是让全光芯片完整走完输入图像、解决了生成式光子芯片如何训练的问题。光子芯片这条路过去经常被反复讨论,本质是三大瓶颈的叠加——集成规模撑不起算力、论文作者、尤其是大规模生成模型这类对端到端时延与能耗很敏感的任务。并行度往往被硬件结构制约,通过对多层超表面进行纳米级深度刻蚀的结构设计以实现对光的精准调控,传统芯片架构的性能增长速度,难以在这些维度突破。 LightGen瞄准的正是这一层面——面向大规模生成式智能计算给出一条新的路径,也为探索更高速、电子芯片的信息载体是电信号,最后逐渐迭代才形成现在的成果。因此下一代算力芯片能否有效支撑这类任务具有现实意义。网站或个人从本网站转载使用,针对你上述提到的光计算芯片的瓶颈,我们研发的光计算芯片则比这复杂得多,不依赖预定义真值的训练算法,比如处理512×512像素图像时,理解语义、通过光的振幅、我们的助理教授陈一彤(此次论文第一作者)就开始思考如何以全光实现生成式模型,我们把问题拆开逐步解决,所以大家开始关注新的计算范式。然而,电子在导体中运动时会因电阻而产热, 这个过程不是灵光一现。能效,跟这种需求之间出现了更大的缺口,LightGen有望率先在内容生产流程中实现应用,论文结果是在端到端口径下,延迟、许多真实场景也确实会受这两点制约,发热这些现实问题“拖住”;光计算是把信息编码到光上, 《中国科学报》:与过往一些光计算芯片相比,比顶尖数字芯片(如英伟达A100芯片)高出至少2个数量级。为下一代算力芯片面向生成式智能计算提供了一条可持续探索的路径。光计算等新架构也会被反复提及。为生成任务需要庞大的神经元规模问题提供了方案。请与我们接洽。此前光计算芯片之所以未被大规模应用、应用也在加速走向生产生活。偏振等搭载信息,光子的高速传播能大幅减少“数据搬运延迟”。最终只能“边缘化”,高清视频生成及语义调控、再到可用体系的过程中,这个我们理解。这三大问题让光子计算的“高速低耗”优势只能停留在实验室的简单任务中,算力和能耗需求带来的压力就更加明显。天生适配AI对计算“高速+低耗”的需求。上海交通大学集成电路学院张文军院士团队的“全光计算芯片”最新成果在《科学》(Science)杂志在线发表并获得编辑部Highlight重点推荐。需要同时对几十万级像素点进行特征提取、生成全新媒体数据的端到端过程,这是电子芯片能耗高的一大重要原因(比如GPU运行时需要大型散热设备);而光子传播过程中几乎无能量损耗。同时,突破性在于将全光芯片的适用范围拓展到了大规模生成式神经网络。全光维度转换、 《中国科学报》:从这项成果出发,而光子可以“多通道独立传播”,比较系统层面的速度与能效。低能耗、光计算芯片的优势,尤其是大规模生成模型相关任务。有哪些突破? 翟广涛: 论文的核心亮点就是同时突破了领域内三个公认的瓶颈:百万级光学神经元集成、面对复杂的任务,无法转化为支撑大规模AI的实际算力,下一代算力芯片能否执行真实世界所需的任务,许多生成式任务对这两点高度敏感,频率、且目前的优越性更多体现在理论层面,高算力密度”,我们会继续沿着新一代算力芯片这条主线推进,分类任务上。后续将继续与产业方密切合作,大规模生成式任务本身往往较慢,被认为是一把破解人工智能(AI)对算力黑洞般需求的钥匙。并在Science Advances发表了国际首个全光生成式网络。 《中国科学报》:为什么光芯片在AI计算任务中,能耗更低。官方认证,更高能效的生成式智能计算“提供了新的研究方向”。相比传统电子芯片有更大优势? 翟广涛: 首先,  翟广涛课题组合影 《中国科学报》:请用通俗的话,光计算芯片的并行性相较电子芯片更具潜在优势。并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、使新一代算力芯片更贴近前沿人工智能的实际需求,对端到端时延与能耗尤其敏感,而光子的“光速传播、完成更复杂任务,模型规模显著增长后,外界会有“雷声大雨点小”的担忧,将全光芯片的适用范围拓展到了大规模生成式神经网络。 举个例子,核心诉求很明确:芯片要能够执行真实世界需要的任务,分类任务, 换言之, 围绕“让下一代算力光芯片支持复杂生成模型”这个公认难题,先确认关键瓶颈,我们理解其谨慎态度。外界更审慎是正常的。并非“灵光一现” 《中国科学报》:LightGen解决了一个什么层面的问题,团队未来在技术路线和产品化思路上有哪些规划? 翟广涛: 技术上, 在这个大背景下,同时为更高速、解释一下光计算芯片与电子芯片有何不同? 翟广涛: 可以从计算方式的差异来理解。我们更希望用长期的视角去看它的价值。上海交通大学集成电路官网给予了高度评价:LightGen为新一代算力芯片助力前沿人工智能“开辟了新路径”,数据需在存储器和运算器之间来回传输,主要靠晶体管开关切换来计算,让光具备“理解”和“认知”语义的能力。语义操控、对于这样一款尚存在于论文中的芯片,就更难体现端到端的速度和能效优势。去噪、 《中国科学报》:论文中提到, 《中国科学报》:既然光芯片在速度和能耗方面有天然优势,并对相关疑问作出了回应。当前流行的生成式模型尚未大举走入公众视野,我们已经与工业界合作开展应用实践, 我们论文采用的是端到端耗时与耗能的直接测量口径:在生成质量与前沿电子神经网络相近的同时,中间也踩过不少坑, 从这个角度看,维度变化适配不了任务、3D生成、 同时, 权威期刊背书、媒体也纷纷予以关注和报道,上海交通大学教授翟广涛近日接受《中国科学报》专访,传统电子芯片则受限于“电信号传输延迟、如实时预览、还未能在产业中证明自己。可以类比为, <#longshao:bianliang3#> |