AI狂潮之下,GPU霸主英伟达成为顶流。而在GPU之外,算力产业链上的高速互联芯片近期颇受业内关注。
报告指出,AIGC带动AI服务器需求量与日俱增,用于服务器内、外部数据传输等接口芯片也随之攀升。从服务器内部看,海量数据带来高速传输需求,服务器高速互联芯片不可或缺。
比如,CPU和GPU之间、GPU和GPU之间、CPU和DRAM之间的“串联”都需要接口芯片。如今在庞大的算力需求下,服务器需要更大数量的芯片一起运作来满足计算功能,这也对高速联接、传输都提出了更高的要求。
因此,多家机构都指出,AI为互联接口芯片带来新的市场空间,多家上市公司股价上涨,相关的融资消息也开始增多。
日前,高速互联芯片及方案设计厂商国数集联完成数千万元天使轮融资,本轮融资由弘卓资本独家投资,募集资金主要用于产品研发及供应链体系建设;美股的Credo、A股的澜起科技连日来股价纷纷上扬。
高速互联芯片规模5年内翻番
“单个GPU已经无法跑Transformer、BERT、GPT这些大模型,需要几百个甚至上千个GPU连在一起才能跑起来。”国数集联创始人兼首席执行官巍骛此前接受媒体采访时表示,目前内存容量快速增长,GPU性能呈指数级增长,但I/O(输入/输出)却没有跟上,成为AI算力提升瓶颈,导致GPU等未充分利用,造成资源浪费,业界正试图解决这一问题。
因此,互联接口芯片也是突破算力瓶颈的关键要素,国内厂商也在持续发力中。据了解,成立于2022年的国数集联,主要专注于高速互联芯片及算法的研发与整体硬件方案的设计。面向数据中心,包括AI与存储服务器,以及Chiplet等方向,提供PCIe/CXL交换算法、芯片、模块,以及低功耗整体硬件方案。
市场调研机构650 Group报告显示,从2022年到2027年,全球数据中心的互联接口芯片市场规模将翻番,达到250亿美元。其中,在AI大算力需求下,PCIe Switch是互联接口芯片的关键市场,也是数据中心低功耗、高性能解决方案核心一环。
从服务器内部需求来看,PCIe Switch和PCIe Retimer芯片主要应用于CPU、GPU等组件的互联。民生证券的报告显示,目前全球仅少数几家公司具备PCIe Switch芯片技术,核心厂商主要包括博通、微芯科技和祥硕科技三家,共占有全球约58%的份额。
针对GPU和GPU之间的互联,以英伟达的NVLink高速接口芯片为代表。报告指出,NVLink之外,AMD的 Infinity Fabric和英特尔的CXL(Compute Express Link)等也为服务器内部的高速串联提供了解决方案,而高速串行接口芯片堪称高性能服务器的血液。
此外,CPU与DRAM(内存)高速互联,也拉动了内存接口芯片需求。内存接口芯片行业壁垒高,三足鼎立格局已经形成,在DDR5世代,全球只有三家供应商可提供DDR5第一子代的量产产品,分别是澜起科技、瑞萨电子(IDT)和 Rambus。
弘卓资本管理合伙人赵文军表示:“随着生成式AI浪潮兴起,AI服务器需求呈现快速增长,其中高速互联芯片将扮演越来越重要的角色。”
当前,AI服务器的出货还在持续增长中。5月30日,TrendForce集邦咨询向21世纪经济报道记者提供的数据显示,预估2023年AI服务器(包含搭载GPU、FPGA、ASIC等)出货量近120万台,年增38.4%,占整体服务器出货量近9%,至2026年将占15%。
同时,集邦咨询上修2022~2026年AI服务器出货量年复合成长率至22%,而AI芯片2023年出货量将成长46%。其中,英伟达的GPU为AI服务器市场搭载主流,市占率约60~70%,其次为云端业者自主研发的ASIC芯片,市占率逾20%。
从大模型的陆续面世、到AI服务器、AI芯片的需求增长,AI的进化为算力市场注入新能量。民生证券报告指出:“AI时代浪潮汹涌,海量数据催生庞大的算力需求,将带动服务器产业链需求量持续上涨。作为芯片与外部世界的交互媒介,接口芯片实现量增的同时,也朝向更高速率、更大传输带宽发展。”
国盛证券的研报也提及了相同走势,随着数据中心侧云服务商等不断增加资本开支以降低字节成本,超大规模数据中心400G、800G交换机渗透加速,高性能服务器不断升级迭代,高速、低功耗接口传输方案是未来趋势。
不过,也有多位产业链人士向记者表示,虽然AI服务器市场在增长,但是也要注意今年整体服务器市场需求放缓,当然高算力服务器是长期趋势,未来将逐步普及。
2024-11-08
2024-11-07
2024-11-06
2024-11-05
2024-11-04
2024-11-01