智通财经APP获悉,IDC最新发布的报告显示, 2024上半年中国智算服务整体市场同比增长79.6%,市场规模达到146.1亿元人民币。其中,智算集成服务市场同比增长168.4%,市场规模达57.0亿元人民币;GenAI IaaS市场同比增长203.6%,市场规模达52.0亿元人民币;Other AI IaaS市场同比缩减13.7%,市场规模达37.1亿元人民币。
新旧动能快速切换,面向GenAI的算力支出已经成为智算服务市场主阵地:以AI IaaS市场为例,GenAI IaaS市场经历短短的一年半发展时间,市场规模已经超过Other AI IaaS市场,占比AI IaaS市场达58%。智算集成市场,增量新建的智算中心均是以GenAI的未来需求为导向而设计的。
头部客户饱和式投入,智能算力支出快速增长:头部客户智能力算力支出在2024年迎来大幅度增长。如头部基础大模型公司整体算力规模向10EFlops进发,最大单集群规模已经升级到256台服务器(H系列);自动驾驶客户更是迎来新一轮算力军备竞赛,如理想汽车,截至2023年9月,云端算力规模仅750PFlops,到2024年11月,云端算力规模已达到6830PFlops。
互联网业务向GenAI融合,GenAI IaaS推理算力支出快速增长:2024上半年,GenAI开始向行业落地,尤其是互联网行业(主要是互联网音视频、游戏、教育)在GenAI与业务的融合实践方面一马当先,GenAI IaaS推理算力支出快速增长。2023年,客户在GenAI IaaS上的推理支出占比仅为5%,2024上半年,这一支出占比已经上升到23%。
智算中心建设提速,专业服务和商业化运营成为关注重点:据不完全统计,上半年智算中心项目已过百,但其中相当数量仍处于规划/开工/在建等状态。相关项目中:
各地新建智算中心正向大算力规模演进,其中单个政府智算中心整体算力规划已接近千P及以上,而运营商/互联网智算中心算力规模基本达到万卡及以上规模,呈现出资金投入大、算力密度大、建设难度高等特征。如何通过专业服务实现大规模集群系统架构部署优化、大规模计算稳定性保障以及集群高效运维越来越受到算力使用方以及相关服务商重视。
与此同时,现阶段部分投产上线智算中心面临缺乏商业化运营能力,如何实现零散算力整合售卖并完成与最终用户的对接使用正成为算力建设方、运营方关注重点。
智算服务市场不断吸引新入玩家:社会各类资本通过各种合作方式以弥补自身的不足,以抢抓时代的黄金机会点。一是传统企业通过资本布局跨界而来,如并购NV系精英合作伙伴、与有技术沉淀的服务商共建等方式以弥补自身技术的不足;二是业界的各类ICT企业通过算力纳管、整合生态、算力共建等方式,谋求以轻资产、重解决方案能力在智算服务市场立足。
市场格局
智算集成服务市场
智算集成服务市场在2024上半年逐渐迎来爆发,市场格局继续维持一超多强特征,头部以及中腰部玩家凭借技术优势扩大市场份额。其中,华为智算集成服务为客户提供算力集成解决方案,覆盖数据中心Facility集成、IT基础设施集成等,包括咨询规划、集成部署及辅助运营的全周期服务;此外,针对AI开发门槛高、模型迁移开发能力不足等通用挑战,华为为客户推出AI计算使能、AI计算优化等专业服务,助力“建好、管好、用好”算力集群;本期H3C重点推动傲飞算力平台落地,为政企、智算中心集群提供多元异构算力支持,满足最终用户不同AI负载和业务场景需求;百度继续依托芯片、算力、软件等基础设施以及产业链优势,参与西北等多个地区智算中心项目建设;中国电信凭借“息壤”算力网络平台、算网/机房资源以及相关算力模型开发经验,本期在私有化智算集群项目中有所建树,排名上升至第四;中国电子云围绕CECSTACK一体化算力平台,在北京、石家庄、武汉等地完成多个智算项目交付,同时在商业客户和高校市场实现突破,目前算力规模已超过3300P。
AI IaaS市场
客户需求向GenAI转移,Other AI IaaS市场规模逐步缩减,继续延续之前的市场格局。GenAI IaaS市场,云巨头快速调整,引发市场变局.阿里云在2024年快速调整市场策略,市场份额跃居市场第一,一是内部快速调整释放出大量资源向客户侧供给;二是借助优秀的资本布局聚焦算力消耗大户;三是技术体系快速适配Gen-AI时代,凭借优秀的技术功底获得头部客户认可。运营商在今年大举发力智算市场,纷纷建立万卡级智算中心,中国电信作为率先落地的服务商,上海及北京万卡智算中心已经商用,率先在市场取得突破。同时,省公司亦在积极响应客户对于GenAI IaaS需求,通过外部合作扩充智能算力规模,市场份额跃居市场第五。新势力服务商在2024上半年的表现呈现两级分化,以商汤科技为代表的新势力服务商成功立足市场,商汤科技继续保持市场第三位置,并行科技、首都在线、蓝耘科技等公司的GenAI IaaS业务亦取得了高速增长。
IDC中国企业级研究部研究经理杨洋表示,回顾IDC在2023H2的预测,我们已经对智算服务市场的增长充分乐观,而从2024年市场的实际情况来看,我们过往的预测仍偏于保守,智算服务市场以远超预期的增速在高速成长。从智算服务的增长态势来看,IDC认为智算服务市场在未来五年内仍将保持超高增速高速成长,一是头部客户对于训练算力的需求仍呈现量级跃迁的特征,二是从产业阶段和算力结构上来看,GenAI仍处于早期阶段,推理侧算力支出仍占较小比例,以终局来看,推理侧算力应占到算力支出的6-7成,意味着推理侧算力支出将有百倍以上的增长空间;三是算力成本在逐步下降,2024上半年,IDC观测到更多的中腰部组织/企业在展开GenAI实践,未来,大量的中腰部组织/企业将成为智算服务市场的优质增量。GenAI同样在重塑整个ICT市场的技术体系和竞争均势,而智算服务市场将处于价值链的核心环节,成为ICT巨头的必争之地。