电子发烧友网

电脑版
提示:原网页已由神马搜索转码, 内容由www.elecfans.com提供.
会员中心
创作中心
发布

用光电混合突破算力边界,WAIC上这家企业大秀肌肉

Felix分析来源:电子发烧友作者:吴子鹏2024-07-09 00:242592次阅读

电子发烧友网报道(文/吴子鹏)当前,摩尔定律遇到了非常大的挑战,传统硅器件要实现性能提升需要付出高昂的代价。在这个大背景下,光电混合被认为是未来计算芯片突破性能瓶颈的有效手段。就连有全球半导体风向标之称的ISSCC会议对光电混合也是高度关注,在2024年世界人工智能大会(以下简称:WAIC 2024)上,曦智科技所展示的领先的光电混合技术同样得到了广泛的关注。

wKgaomaLvlSAbDYfAAE0rUBeevw272.jpg

WAIC 2024观众参观曦智科技展台


面向AI大模型所需要的计算和互连两大关键环节,曦智科技展示了首款基于片上光网络技术(oNOC)的全长、全高、双插槽PCIe Gen3的人工智能推理卡OptiHummingbird,CPO共封装光学(Co-Packaged Optics)方面技术储备,以及其他光计算、光互连硬件等。

打造硅光技术和光电混合算力新范式

很多人将光电混合定义为未来的科技之光,这其实并不夸张,硅光芯片和光通信等前沿技术在计算和传输方面所体现出来的优势是巨大的。比如,光子芯片具有高速、大带宽和低功耗的特点,可以更好地实现海量数据的高效处理,并避免电信号的传输噪声和传输延迟。同时,硅光计算芯片能够在单芯片内融入多种光子器件,不仅有更高的集成度,而且能够兼容传统的硅半导体器件和制造工艺。

曦智科技OptiHummingbird里面的芯片便是采用先进的封装技术,将硅光芯片和微电子芯片通过中间层进行垂直封装。在这颗芯片内部,微电子芯片提供了64个计算核,硅光芯片则提供oNOC(Optical Network on Chip)片上光网络。oNOC可以实现单个电芯片(EIC)内部的数据传输,也可以实现封装内部多个电芯片(EIC)之间的数据通信,因此oNOC是实现片上多核异构计算的核心技术。通过oNOC技术和光电混合,使得搭载相关芯片的OptiHummingbird加速卡具有非常高的计算能效,只需要被动散热,硬件功耗仅为65W。

为打造集成硅光技术与光电混合的算力新范式,曦智科技目前拥有多项前沿的技术储备。比如oMAC光子矩阵计算:通过光来替代传统的电子进行数据处理,可执行线性运算,主要指乘法与加法,也可理解为矩阵-矩阵或矩阵-向量之间的乘法;oNET片间光网络:光芯片起到类似optical BUS的作用,将单元内部需要传输的数据集中起来,通过光传播介质(如光纤)与其他单元进行数据交互。

基于这些前沿的技术,曦智科技也展示了一些前沿的成果,比如曦智科技第二代光子计算处理器PACE,PACE的核心是64x64的光学矩阵乘法器,由一块集成硅光芯片和一块CMOS微电子芯片以3D封装形式堆叠而成。PACE的单个光子芯片中集成超过10000个光子器件,运行1GHz系统时钟。在展会现场,曦智科技演示了PACE在解决最大割问题上的速度,显著优于该产品发布时市场上领先的GPU芯片。

助力实现资源池化和全光互连

除了光电混合的计算能力,曦智科技也在积极布局光电传输,现阶段这方面的需求是巨大的。举两个典型的市场需求,第一个是数据中心采用计算和存储分离式架构,很大程度上依赖于PCIe和CXL等低延迟互连,通过光互连实现CXL是非常有效的手段;第二是全光底座的打造,通过超大规模全光组网、城域池化波分和全光综合接入等关键技术,实现超大带宽、超低时延、超高可靠的连接网络,在全光底座和计算单元的连接上,也有巨大的光电混合需求。

WAIC 2024上,曦智科技展示了首款兼容PCIe和CXL协议的数据中心计算光互连硬件产品Photowave,具有标准PCIe卡、OCP 3.0 SFF卡和有源光缆等多种产品形态。该产品系列可配置x16、x8 、x4 、x2等不同通道数,适用于服务器平台、CXL交换机、存储应用以及xPU之间的互连,兼容性强。Photowave具有非常明显的低延迟和能效优势,设计数据传输延迟低于20纳秒,其中有源光缆延迟低至1纳秒以下,功耗也降至15瓦以下。这里需要特别提到的是,Photowave的核心技术便是oNET片间光网络,oNET和CXL的融合是一种强强联合,可以帮助数据中心更好地实现资源池化和横向扩展。

wKgZomaLvt6AAEvHAABfURUWFb8220.jpg

曦智科技Photowave计算光互连硬件产品


曦智科技工作人员表示,Photowave让数据中心主要资源全部解耦和池化,支持单模和多模光纤实现,最大支持数十米的传输距离,并且资源可灵活调配和增减。

曦智科技还展示了基于OCS的跨服务器XPU光互连。OCS(Optical Circuit Switching)是一种基于光学交叉开关原理的光信号控制交换技术,其核心功能是在光层面对信号进行快速、灵活的路由和切换,使服务器端口实现直接光学互连,过程中无需光电转换,能耗大幅度降低。

综合而言,曦智科技在光互连方面提供的产品包括互连线缆、OBO板载光组件、OCP转接卡和互连板卡。

结语

Yole的统计数据显示,2022年全球硅光市场规模达到6,800万美元,受益于用于提升光纤网络容量的数据中心收发器的推动,预期2028年全球硅光市场规模将达到6亿美元,其间硅光芯片年复合增长率预估为44%。当前,光传输在数据中心领域已经得到了广泛的认可,随着硅器件的计算瓶颈愈发明显,未来光电混合的计算芯片也有巨大的发展前景。无论是计算还是传输,曦智科技都已经走在了产业前沿。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 算力
  • 曦智科技
  • 光电芯片
0人收藏

    评论

    发布评论请先 登录

    相关推荐

    浪潮信息携全栈智产品和方案亮相WAIC2024

    7月4日,2024世界人工智能大会(WAIC2024)在上海开幕。大会聚焦大模型、、机器人、自动驾驶等重点领域,吸引众多国内外知名人工智能企业参会。作为全球领先的IT基础设施供应商
    07-05 18:04 1208次阅读

    驭光突破边界:曦智科技多款产品及解决方案亮相WAIC

    ,吸引众多现场观众驻足观看了解。  光子网络产品线:新型数据搬运 由于人工智能、云计算、物联网等技术的发展,当今社会正面临着数据量的指数级增长,网络的发展需要高速率、高带宽、高能效的互连技术作为支撑。光子技术凭借其低
    07-05 15:48 116次阅读

    九章云极DataCanvas Alaya NeW智操作系统震撼亮相WAIC2024

    大模型、、机器人、自动驾驶等关键领域,集中展示“人工智能+”创新应用的最新成果。九章云极DataCanvas公司作为大模型、智产业代表企业再度参展
    07-05 14:53 340次阅读

    华为云技术新突破:Flexus X 实例以其柔性加速企业一键

    实例),正是为满足这些日益严苛的需求而设计。通过引入创新的柔性技术,Flexus X 实例不仅提供了前所未有的性能优化能力,还带来了资源配置的极大灵活性和显著的成本效益,成为推动企业数字化转型的强大动力。 柔性
    07-03 15:42 283次阅读

    助力企业数智化云跃级提升,云耀 X 实例柔性一直加速一直快

    在云计算的大潮中,弹性一度成为行业追逐的热点。然而,随着业务需求的日益复杂化和精细化,传统的粗颗粒度已经难以满足企业对于
    05-27 11:02 434次阅读

    力系列基础篇——101:从零开始了解

    相信大家已经感受到,我们正处在一个人工智能时代。如果要问在人工智能时代最重要的是什么?那必须是:
    04-24 08:05 1002次阅读

    十问:超,通存比

    邬贺铨指出,现有测算方法难以精准衡量。国内企业服务器的出货量并不等于国内市场的使用量,而且进口国外的服务器未统计在内;服务器出货量也不等于架量,更不等于已经加电使用量。通常服务器
    04-13 11:40 2651次阅读

    Sora需求引发业界对集结国内AI企业的探讨

    据周鸿祎观察,Sora视频分析所需恐远超千亿规模模型。因而,考虑到如今国内芯片供应受限,问题至关重要。事实,Meta已有约50万台
    02-25 10:03 333次阅读

    智能规模超通用,大模型对智能提出高要求

    电子发烧友网报道(文/李弯弯)是设备通过处理数据,实现特定结果输出的计算能力,常用FLOPS作为计量单位。FLOPS是Floating-point Operations Per Second
    02-06 00:08 4939次阅读

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    弘信电子与AI服务器合资,助力国产芯片落地

    此外,弘信电子近期在AI业务取得了突破性进展,这并非源自本土化的积累,而是依赖于团队敏锐的战略眼光和强烈的创新动力。此次投资是弘信电子在AI
    12-25 09:30 529次阅读

    光电混合缆是光纤还是电缆?怎样使用光电混合缆呢?

    光电混合缆是一种集成了光纤和导电铜线的混合形式的电缆,可以用一根线缆同时解决数据传输和设备供电的问题。
    09-06 17:40 1949次阅读

    GPU如何突破供需瓶颈

    演讲嘉宾,探讨后GPT时代需求激增带来的挑战以及GPU如何突破供需瓶颈、推动人工智能产业普惠化发展。  沐曦联合创始人、CTO兼首
    08-22 10:26 1073次阅读

    燧原科技“云燧智算机”获2023中国大会 “中国·年度突破成果”荣誉

    中国大会主论坛颁奖仪式 8月18-19日,由工业和信息化部、宁夏回族自治区人民政府共同举办的2023年中国大会在银川召开,大会主论坛隆重发布了六项年度
    08-21 19:20 1004次阅读

    ”的分层定义-初级

    ”(Computility,也被称为计算能力或计算)通常而言是指计算机、服务器、GPU或其他硬件设备执行计算任务的速度和能力。
    07-27 14:02 2017次阅读

    Felix分析

    专栏
    664文章232.5w阅读51粉丝230点赞

    推荐专栏

    更多