行情中心 沪深京A股 上证指数 板块行情 股市异动 股圈 专题 涨跌情报站 盯盘 港股 研究所 直播 股票开户 智能选股
全球指数
数据中心 资金流向 龙虎榜 融资融券 沪深港通 比价数据 研报数据 公告掘金 新股申购 大宗交易 业绩速递 科技龙头指数

AI行业跟踪报告(一):光铜共进 通讯带宽是AI重要迭代方向

财通证券股份有限公司 04-09 00:00

AI 大模型对带宽提出更高要求。算术强度(Arithemtic Intensity)代表模型计算过程中,从内存中读取的每个字节进行浮点计算的次数。以TransformerDecoder为基础的模型如GPT,其算术强度显著低于CNN模型和以TransformerEncoder 架构为基础的模型(如BERT),对访存带宽提出了更高要求。

英伟达新架构通讯带宽再上台阶。英伟达最新数据中心GPU 架构Blackwell,相比上一代的Hopper 架构,带宽在多个维度显著提升:1)HBM迭代至HBM3e(带宽8TB/s),相比H100 的HBM3(带宽3TB/s)实现翻倍以上提升;2)NVLink 带宽提升至1.8TB/s,相比Hopper 架构翻倍;3)支持PCIe 6.0,带宽提升至256GB/s,相比Hopper(PCIe5.0 128GB/s)翻倍。

AI 拉动光模块需求,重视技术迭代增量。数据中心GPU 放量拉动光模块需求,LPO、CPO、硅光等是数据中心光模块技术重要迭代方向,包括:1)LPO/CPO 不采用DSP 芯片,降低系统损耗(LPO 相比可插拔光模块功耗下降约50%)和成本(800G LPO 总成本下降约8%);2)CPO 缩短光引擎和芯片之间距离,减小尺寸、降低功耗、提高效率;3)硅光结合CMOS 工艺超大规模、超高精度和光子技术超高速率、超低功耗(CPO/LPO 架构下)的优势等。

GB200 拓展Scale up 边界,降低客户TCO 水平,拉动铜连接需求。英伟达最新机架解决方案GB200 性能大幅提升,相同GPU 数量下,训练速度可达H100 的4 倍;GB200 NVL36 可实现万亿大模型推理,吞吐量达H100 集群的30 倍以上。相比GH200,GB200 的CPU:GPU 配比由1:1 降低至1:2,客户TCO(Total Cost of Ownership,总拥有成本)得以进一步降低。随着GB200 在下游放量,背板连接器、铜缆等核心零部件有望受益增长。

风险提示:AI需求不及预期、新技术迭代不及预期、份额不及预期等。

免责声明

以上内容仅供您参考和学习使用,任何投资建议均不作为您的投资依据;您需自主做出决策,自行承担风险和损失。九方智投提醒您,市场有风险,投资需谨慎。

推荐阅读

相关股票

相关板块

  • 板块名称
  • 最新价
  • 涨跌幅

相关资讯

扫码下载

九方智投app

扫码关注

九方智投公众号

头条热搜

涨幅排行榜

  • 上证A股
  • 深证A股
  • 科创板
  • 排名
  • 股票名称
  • 最新价
  • 涨跌幅
  • 股圈