要闻:十倍提升大模型通信性能!腾讯云首次完整披露自研星脉高性能计算网络
2023-06-26 20:23:26 来源:商业与生活
AIGC的爆发除了带来算力上的挑战,对网络的要求也达到了前所未有的高度。
(资料图)
6月26日,腾讯云首次对外完整披露自研星脉高性能计算网络:星脉网络具备业界最高的3.2T通信带宽,能提升40%的GPU利用率,节省30%~60%的模型训练成本,为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群HCC,可支持10万卡的超大计算规模。
腾讯云副总裁王亚晨表示:“星脉网络是为大模型而生。它所提供的大带宽、高利用率以及零丢包的高性能网络服务,将助力算力瓶颈的突破,进一步释放AI潜能,全面提升企业大模型的训练效率,在云上加速大模型技术的迭代升级和落地应用。”
构建大模型专属高性能网络,提升40%GPU利用率
AIGC的火爆带来AI大模型参数量从亿级到万亿级的飙升。为支撑海量数据的大规模训练,大量服务器通过高速网络组成算力集群,互联互通,共同完成训练任务。
大集群不等于大算力,相反,GPU集群越大,产生的额外通信损耗越多。大带宽、高利用率、信息无损,是AI大模型时代网络面临的核心挑战。
千亿、万亿参数规模的大模型,训练过程中通信占比最大可达50%,传统低速网络的带宽远远无法支撑。同时,传统网络协议容易导致网络拥塞、高延时和丢包,而仅0.1%的网络丢包就可能导致50%的算力损失,最终造成算力资源的严重浪费。
基于全面自研能力,腾讯云在交换机、通信协议、通信库以及运营系统等方面,进行了软硬一体的升级和创新,率先推出业界领先的大模型专属高性能网络——星脉网络。
在硬件方面,星脉网络基于腾讯的网络研发平台,采用全自研设备构建互联底座,实现自动化部署和配置。
在软件方面,腾讯云自研的TiTa网络协议,采用先进的拥塞控制和管理技术,能够实时监测并调整网络拥塞,满足大量服务器节点之间的通信需求,确保数据交换流畅、延时低,实现高负载下的零丢包,使集群通信效率达90%以上。
此外,腾讯云还为星脉网络设计了高性能集合通信库TCCL,融入定制化解决方案,使系统实现了微秒级感知网络质量。结合动态调度机制合理分配通信通道,可以避免因网络问题导致的训练中断等问题,让通信时延降低40%。
网络的可用性,也决定了整个集群的计算稳定性。为确保星脉网络的高可用,腾讯云自研了端到端的全栈网络运营系统,通过端网立体化监控与智能定位系统,将端网问题自动定界分析,让整体故障的排查时间由天级降低至分钟级。同时,大模型训练系统的整体部署时间从19天缩减至4.5天,保证基础配置100%准确。
历经三代技术演进,软硬一体深耕自研
星脉网络全方位的升级背后,是腾讯数据中心网络历经三代技术演进的成果。
在腾讯发展初期,数据中心网络流量主要由用户访问数据中心服务器的南北向流量构成,网络架构以接入、汇聚、出口为主。这一阶段主要使用了商用网络设备,搭建标准化数据中心网络,支撑QQ在线人数增长超过1亿,服务器规模增长超10万。
随着大数据和云计算的兴起,服务器之间的东西向流量逐渐增多,云租户对网络产生了虚拟化和隔离的要求。数据中心网络架构逐渐演变为同时承载南北向和东西向流量的云网络架构,腾讯云构建了全自研网络设备与管理系统,打造超大规模数据中心网络,服务器规模近200万台。
如今随着AI大模型的出现,腾讯云在国内率先推出高性能计算网络,采用东西向、南北向流量的分离架构。构建了独立的超大带宽、符合AI训练流量特征的网络架构,并配合自研软硬件设施,实现整套系统的自主可控,满足超强算力对网络性能的新需求。
日前,腾讯云发布的新一代HCC高性能计算集群,正是基于星脉高性能网络打造,可以实现3.2T超高互联带宽,算力性能较前代提升3倍,为AI大模型训练构筑可靠的高性能网络底座。
未来,腾讯云还将持续投入基础技术的研发,为各行各业的数智化转型提供有力的技术支撑。
关键词:
[责任编辑:xwzkw]
相关阅读
- (2023-06-26)要闻:十倍提升大模型通信性能!腾讯云首次完整披露自研星脉高性能计算网络
- (2023-06-26)RTX 4060显卡公布:价格最便宜 4年节省1250度电
- (2023-06-26)吃白斩鸡的时候,你觉得再点一份什么合适?
- (2023-06-26)快讯:俄媒:乌高官推测,“不排除”卢卡申科参与俄乌未来和平谈判
- (2023-06-26)绝美!今天的日照海天一色!
- (2023-06-26)全球微速讯:池州市原创历史剧《还我河山》再获殊荣
- (2023-06-26)金士顿x英雄联盟联名系列内存、存储产品图赏:强劲性能驰骋战场
- (2023-06-26)金博股份(688598.SH):拟获得2023年产业扶持资金1亿元
- (2023-06-26)环球快消息!一季度全国婚姻数据:结婚登记同比增加4万对,离婚多了12万对
- (2023-06-26)碳酸锂期货将上市,千亿盐湖龙头计划择机开展期货套期保值业务
- (2023-06-26)泰禾智能:拟投建工业物料智能分选装备项目-快消息
- (2023-06-26)万通保险辟谣:从未购入原中国恒大中心任何业权 更名为租户权益_环球消息
- (2023-06-26)世界通讯!驻美国使馆发言人就美方以涉芬太尼问题逮捕和起诉中国公民和企业答记者问
- (2023-06-26)中科曙光跌10.01% 机构净卖出25814万元
- (2023-06-26)每日消息!黑龙江省拜泉县:筑牢食品安全防线,以“食”力为考生助力
- (2023-06-26)高温季节餐饮服务食品安全提示|环球百事通
- (2023-06-26)当前报道:深圳龙岗百富兴大厦异响振动后续:连续37天监测未见异常
- (2023-06-26)中上协黄运成:国有控股公司估值亟待提振
- (2023-06-26)上海环境董秘回复: 公司在手多个BOT项目,此类项目系与政府方或政府授权方签订的合同|观点
- (2023-06-26)铜山“三注重”法治保障夏季燃气行业安全运行
- (2023-06-26)环球焦点!瀚亚投资:美国经济衰退的机率上升 看好亚洲股票市场机遇
- (2023-06-26)中国航空博物馆所有人均需要预约参观吗? 天天实时
- (2023-06-26)多地猴痘病例源自男男性行为,近1000万易感者该如何预防?
- (2023-06-26)杭州热电(605011):6月26日13时16分触及涨停板
- (2023-06-26)6月26日上海期货交易所锌锭仓单统计 环球关注
- (2023-06-26)小笼包的热量是多少卡_小笼包的热量是多少_全球热讯
- (2023-06-26)整治铁路沿线环境 提升辖区整体风貌 世界报资讯
- (2023-06-26)环球速递!刀剑神皇好看吗_刀剑神皇
- (2023-06-26)全球快资讯:AI概念股持续下挫 三六零触及跌停
- (2023-06-26)日本股市创近33年新高:“日本企业仍然是最大净买家”|全球简讯