博通又一3nm『芯片』,登场(博通的『芯片』怎么样)

本文由『半导体』产业纵横(ID:ICVIEWS)综合

Jericho4处理的信息量约为上一代产品的四倍。

随着AI『数据中心』规模日益庞大,云服务公司正面临一个问题:如何处理那些老旧、小型的设施?

博通公司为此提供了一个可能的解决方案,至少对于地理位置邻近的部署是如此。该公司核心交换机事业部高级副总裁兼总经理Ram Velaga表示,于本周一发布的新版Jericho网络『芯片』能以更快的速度传输更大量的数据,这意味着客户可以将多个较小的『数据中心』连接起来,从而创建一个用于开发或运行AI模型的大型系统。

博通表示,Jericho4产品能够连接多个『数据中心』的100多万个处理器,处理的信息量约为上一代产品的四倍。

博通已开始出货其Jericho4交换机系列,将其定位为适用于现代『数据中心』横向扩展AI的最先进以太网路由『芯片』。Jericho4专为满足分布式AI基础设施日益增长的需求而设计,提供了高达51.2Tbps的无损、深缓冲以太网性能。因此,AI工作负载可以轻松地跨机架、集群乃至地理上分散的位置进行扩展,而不会影响可靠性或性能。

分布式AI

随着人工智能模型的规模和复杂性持续增长,它们正迅速超越单个『数据中心』的容量和物理限制。将XPU(如GPU和TPU等加速器)分布在多个耗电量达兆瓦级的设施中,也带来了一系列新的网络挑战,包括需要在城域甚至区域距离内实现无损、低延迟和高带宽的传输。

Ram Velaga强调,AI时代需要能够支持超过一百万个XPU的分布式计算环境的网络解决方案。Velaga解释说,Jericho4系列旨在构建能够超越单个『数据中心』边界的AI规模以太网交换架构,支持长距离RoCE(融合以太网上的远程直接内存访问)传输、先进的拥塞控制和高效的互连。

亮点与差异化优势

Jericho4系列专为跨『数据中心』的横向扩展而构建,提供了一系列满足AI工作负载特定需求的功能。

  • 51.2Tbps可扩展、深缓冲容量:Jericho4系列提供了高达51.2Tbps的惊人交换容量,位居行业前列。对于需要在数千个GPU或加速器之间移动大量数据的AI工作负载而言,这一吞吐量至关重要。其“深缓冲”特性使其能够管理大量数据突发而无需丢弃数据包,即使在网络拥塞的情况下,也能确保分布式AI训练的高性能和高可靠性。
  • 3.2T HyperPort接口:HyperPort将四个800GE(800 Gigabit Ethernet)端口组合成一个3.2Tbps的通道,简化了网络设计和管理。这减少了交换机和『服务器』之间所需的链路数量,同时最大限度地减少了数据包重排序和网络效率低下的问题。因此,用户可以实现高达40%的作业完成速度提升和高达70%的网络利用率提升,从而加快AI模型训练速度并更高效地利用计算资源。
  • 支持20万+安全策略的线速MACsec:MACsec(媒体访问控制安全)是在以太网层加密数据的标准。Jericho4交换机支持全线速MACsec,可在不损失性能的情况下进行加密和解密。凭借对超过20万条安全策略的支持,它能够实现精细的安全控制,这对于多租户环境或“新型云”(Neo Clouds)至关重要。这确保了敏感的AI数据在大型共享基础设施中快速移动时的安全。
  • 端到端拥塞管理和RoCE无损传输:AI工作负载受到网络拥塞和数据包丢失的影响,这会减慢分布式训练的速度。Jericho4的深缓冲架构和基于硬件的拥塞管理功能,可利用RoCE实现无损传输,确保在超过100公里的距离上进行可靠的数据传输。这些功能对于连接分布式『数据中心』或AI集群至关重要,能够提供一致的性能和可靠性。
  • 每比特功耗降低40%:随着『数据中心』为支持更大的AI模型和更多用户而不断扩展,能源效率至关重要。与前几代产品相比,Jericho4的架构使每比特数据传输的功耗降低了40%。这降低了运营成本,并帮助企业实现可持续发展目标,从而在不大幅增加能源消耗的情况下扩展AI基础设施。
  • 具有业界领先传输距离的200G PAM4 SerDes:SerDes(串行器/解串器)技术支持通过铜缆或光纤链路进行高速数据传输。Jericho4『芯片』支持200G PAM4 SerDes,使其能够比以往技术在更长的距离上实现更快的数据速率。这使得交换机和『服务器』可以在更广阔的『数据中心』园区内或楼宇之间进行连接,而不会牺牲速度或可靠性。
  • 符合超级以太网联盟(Ultra Ethernet Consortium)标准:超级以太网联盟致力于推广用于高性能计算和AI的以太网标准。Jericho4的合规性确保了其与其他超级以太网设备的无缝兼容,从而保护投资并使网络能够适应未来的AI和云工作负载。
  • 广泛的端点兼容性:Jericho4兼容任何使用以太网的网络接口卡(NIC)或XPU(如GPU或DPU)。这种灵活性使组织能够集成各种计算和存储端点,支持多样化的AI架构和供应商解决方案,而无需局限于单一的生态系统。
  • AI网络:Jericho4架构因其管理持久性、高带宽AI流量的能力而脱颖而出。通过利用HyperPort技术,它消除了传统的瓶颈和低效问题,为可扩展的AI网络提供了更高的吞吐量和更低的延迟。随着组织在园区、城域甚至更广泛的地理范围内部署AI工作负载,这一点尤为重要。

现场部署已经证明了Jericho4的可靠性和有效性,能够支持超过100公里距离的可扩展AI设计。这使Jericho4成为下一代分布式AI基础设施的关键技术。

单个Jericho4系统可扩展至36,000个HyperPort,每个端口以3.2Tb/s的速度运行,具备深缓冲、线速MACsec以及超过100公里的RoCE传输能力。部署选项包括采用Jericho线卡的机箱式系统、采用Jericho叶交换机和Ramon脊交换机的分布式调度交换架构(DSF)以及固定式集中系统,所有这些都利用了博通的高基数、低延迟和高能效架构。

端到端以太网AI平台

Jericho4是博通完整的以太网AI平台的重要组成部分,该平台还包括:

  • Tomahawk 6:用于AI横向扩展和纵向扩展的102.4Tbps交换机。
  • Tomahawk Ultra:用于HPC和AI纵向扩展的51.2Tbps低延迟交换机。
  • Thor系列:AI优化的以太网NIC。
  • 物理层产品:包括中继器(retimers)、DSP和第三代共封装光学(CPO)器件。

这些产品共同为构建任何规模的基于以太网的AI基础设施提供了一个开放、可扩展的平台——从紧密互连的GPU集群到区域性部署。

市场竞争

博通的Jericho4进入了一个竞争激烈的市场,超大规模『数据中心』运营商和AI基础设施提供商都旨在克服传统InfiniBand和传统以太网解决方案的局限性。『英伟达』(NVIDIA)凭借其基于InfiniBand的Quantum和Spectrum-X以太网交换机,在AI网络领域仍然是主导者,尤其是在紧密耦合的GPU集群中。然而,以太网的开放性、成本效益和生态系统支持正在推动行业向基于以太网的AI交换架构转变,特别是在横向扩展和多站点部署方面。

其他竞争对手,如思科(Cisco)的Nexus系列和Arista Networks,也在大力投资高性能、AI优化的以太网交换技术。然而,博通的深缓冲、无损架构,结合其在『芯片』创新和生态系统整合方面的领导地位,为Jericho4提供了极具吸引力的价值主张——特别是对于那些旨在构建开放、可扩展且面向未来的AI基础设施的组织而言。

*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。

特别声明:[博通又一3nm『芯片』,登场(博通的『芯片』怎么样)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

王大发揭司晓迪老底:倒贴『范丞丞』,勾搭屈楚萧,是撒谎惯犯!(王大发是什么意思)

她一度号称自己与『范丞丞』、屈楚萧等『明星』️有着不一般的关系,甚至声称自己能和这些顶流亲密互动。 然而,等大家看得热火朝天时,司晓迪却悄然删除了所有的爆料内容,只留下了一句新的一年好好爱自己。希望大家能理性…

王大发揭司晓迪老底:倒贴『范丞丞』,勾搭屈楚萧,是撒谎惯犯!(王大发是什么意思)

年轻时倾国倾城,女扮男装演贾宝玉大红大紫,如今57岁胖到认不出(年轻时倾国倾城7位女星)

当夏菁去试镜时,化妆师扫了她一眼,毫不犹豫地拿出了戏曲小生的行头:不需要试女角了,你就是宝玉。走红后的夏菁并没有被宝玉这一角色困住,反而开始挑战新的角色,她接连出演了《阿福哥的桃花运》《仇恋》等作品,从古装美…

年轻时倾国倾城,女扮男装演贾宝玉大红大紫,如今57岁胖到认不出(年轻时倾国倾城7位女星)

黄金变现爆火!从满月金锁到断链旧饰,人人争当“黄金提款机(实物黄金变现难吗)

现实中的热闹程度丝毫不输段子,深圳水贝的回收档口被挤得水泄不通,阿姨们拎着布袋子、首饰盒扎堆排队,有位阿姨一次性掏出半箱金饰,项链、耳环、金条堆了满满一柜台,变现十几万后笑得合不拢嘴,直言“当年跟风买的金镯子…

黄金变现爆火!从满月金锁到断链旧饰,人人争当“黄金提款机(实物黄金变现难吗)

天下长河》三个细节太不严谨:明珠能当场将高士奇的考卷作废?(天下长河 电视剧)

可是剧中的康熙看似异常重视这一考试,但从头到尾我们只见到明珠一人忙碌在考场上,这实在太不符合历史的实际情况。可是,在这部剧中,明珠不仅是唯一的主考官,竟然还能把师爷带在身边,这样的设定简直让人感到荒谬和不合常…

《<strong>天下长河</strong>》三个细节太不严谨:明珠能当场将高士奇的考卷作废?(天下长河 电视剧)

天玑9600 9月亮相:联发科首款2nm『芯片』 对标苹果A20(天玑900发布)

快科技1月31日消息,台积电官网显示,其2nm制程工艺已按计划在去年第四季度量产,标志着手机行业即将迈入2nm时代。 据悉,苹果、高通和联发科都是台积电的客户,其下一代旗舰平台都将切入2nm制程,其中联发科首…

天玑9600 9月亮相:联发科首款2nm『芯片』 对标苹果A20(天玑900发布)