边缘计算服务商网宿科技近日发布的《边缘计算市场实践与洞察报告》(以下简称《报告》)提出，边缘计算已在实时音视频交互、CDN、云游戏、AR/VR等方面成熟应用。边缘云安全方面，将边缘与安全结合成为产业共识，SASE架构已被广泛部署。在物联网领域，边缘智能解决方案也在工业制造、交通运输、畜牧养殖、智慧城市等场景中实现了应用创新。物联网是边缘计算需求最为旺盛的场景之一，市场会逐步形成垂直行业的边缘智能解决方案，届时技术门槛和成本降低，边缘计算的需求也将顺势增长。

MarketsandMarkets报告显示，全球边缘计算市场规模将从2023年的600亿美元增长至2029年的1106亿美元，复合年增长率达到13%。IDC报告显示，2023下半年，中国边缘云市场规模总计62.6亿元，同比增速36.1%，增速超出预期。

网宿科技边缘平台资深架构师陈云辉表示：AI发展有两大趋势。“一方面，在中心部署的大模型，会往越来越智能、参数越来越大的方向发展;另一方面，在端侧部署的小模型，如手机厂商在做的端侧模型，参数要够小，同时性能也要满足一定程度。而我们认为，AI大模型不只是做端和中心，边缘也有机会。”

陈云辉表示，例如，OpenAI旗下GPT-4o发布，多了一些多模态、人机自然交互的体验。其核心特点除了模型能力的提升外，最重要的是实时性。边缘计算的优势就在于低时延，可以在其中发挥作用。另外，手机设备GPU算力有限，对于部分场景，算力需要外溢。相较于外溢到中心，时延可能要1—2秒，而外溢到边缘侧，位置距离用户更近，时延可能在几百毫秒，才能满足用户对生成式AI实时性互动的需求，体验更自然。

“所以整体来看，AI对边缘计算有两块需求，一个是算力，另一个是推理。推理模型需要部署在边缘侧，未来推理与迭代将在‘云边端’呈现梯次分布。‘云边端’一体化架构也是AI大模型发展的一个趋势。”陈云辉表示。