腾讯云星脉网络获 AI 网络创新大会“标杆应用奖”

今日，记者获悉，在 2023 年度 AI 网络创新大会上，腾讯云星脉网络获得了"标杆应用奖"。大会由中国通信学会主办，该奖项旨在表彰具有强商业价值、高服务水平和显著应用效益的优秀 AI 网络行业应用案例。

星脉网络是腾讯云自研的大模型专属高性能网络。基于腾讯云新一代算力集群 HCC，可支持 10 万卡的超大计算规模；同时，星脉网络具备业界最高的 3.2T 通信带宽，时延降到 10us-40us，丢包率降到 0，为 AI 大模型带来 10 倍通信性能提升，提升 40% 的 GPU 利用率，节省 30%-60% 的模型训练成本。

腾讯云副总裁王亚晨在现场的分享中介绍了星脉网络。星脉网络基于高速以太网络技术进行构建，为腾讯混元大模型提供了高性能互联底座。

王亚晨指出，随着 AI 大模型的不断发展，对网络的传输和稳定提出了新的需求。传统的网络架构已经越来越满足不了大模型训练的需求。

腾讯云副总裁王亚晨

千亿、万亿参数规模的大模型，训练过程中通信占比最大可达 50%，传统低速网络的带宽远远无法支撑。同时，传统网络协议容易导致网络拥塞、高延时和丢包，而仅 0.1% 的网络丢包就可能导致 50% 的算力损失，最终造成算力资源的严重浪费。大带宽、高利用率、信息无损，是 AI 大模型时代网络面临的核心挑战。

基于全面自研能力，腾讯云在交换机、通信协议、通信库以及运营系统等方面，进行了软硬一体的升级和创新，率先推出业界领先的大模型专属高性能网络 -- 星脉网络。

在硬件方面，星脉网络基于腾讯的网络研发平台，采用全自研设备构建互联底座，实现自动化部署和配置。

在软件方面，腾讯云自研的 TiTa 网络协议，采用先进的拥塞控制和管理技术，能够实时监测并调整网络拥塞，满足大量服务器节点之间的通信需求，确保数据交换流畅、延时低，实现高负载下的零丢包，使集群通信效率达 90% 以上。

此外，腾讯云还为星脉网络设计了高性能集合通信库 TCCL，融入定制化解决方案，使系统实现了微秒级感知网络质量。结合动态调度机制合理分配通信通道，可以避免因网络问题导致的训练中断等问题，让通信时延降低 40%。

网络的可用性，也决定了整个集群的计算稳定性。为确保星脉网络的高可用，腾讯云自研了端到端的全栈网络运营系统，通过端网立体化监控与智能定位系统，将端网问题自动定界分析，让整体故障的排查时间由天级降低至分钟级。同时，大模型训练系统的整体部署时间从 19 天缩减至 4.5 天，保证基础配置 100% 准确。

2023 AI 网络创新大会由中国通信学会指导，中国通信学会信息通信网络技术委员会、江苏省未来网络创新研究院主办，SDNLAB 协办；邀请运营商、互联网公司、设备厂商代表、高校与科研单位代表，围绕 AI 下的网络互连架构、AI 网络设备、高性能网络传输技术、网络调度与资源分配等议题进行分享交流，搭建国内首个 AI 网络垂直交流平台，为 AI 行业稳健发展夯实网络基础设施，以技术创新升级驱动赋能网络发展。