十倍提升大模型通信性能!腾讯云首次完整披露自研星脉高性能计算网络
AIGC的爆发除了带来算力上的挑战,对网络的要求也达到了前所未有的高度。
(资料图)
6月26日,腾讯云首次对外完整披露自研星脉高性能计算网络:星脉网络具备业界最高的3.2T通信带宽,能提升40%的GPU利用率,节省30%~60%的模型训练成本,为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群HCC,可支持10万卡的超大计算规模。
腾讯云副总裁王亚晨表示:“星脉网络是为大模型而生。它所提供的大带宽、高利用率以及零丢包的高性能网络服务,将助力算力瓶颈的突破,进一步释放AI潜能,全面提升企业大模型的训练效率,在云上加速大模型技术的迭代升级和落地应用。”
构建大模型专属高性能网络,提升40%GPU利用率
AIGC的火爆带来AI大模型参数量从亿级到万亿级的飙升。为支撑海量数据的大规模训练,大量服务器通过高速网络组成算力集群,互联互通,共同完成训练任务。
大集群不等于大算力,相反,GPU集群越大,产生的额外通信损耗越多。大带宽、高利用率、信息无损,是AI大模型时代网络面临的核心挑战。
千亿、万亿参数规模的大模型,训练过程中通信占比最大可达50%,传统低速网络的带宽远远无法支撑。同时,传统网络协议容易导致网络拥塞、高延时和丢包,而仅0.1%的网络丢包就可能导致50%的算力损失,最终造成算力资源的严重浪费。
基于全面自研能力,腾讯云在交换机、通信协议、通信库以及运营系统等方面,进行了软硬一体的升级和创新,率先推出业界领先的大模型专属高性能网络——星脉网络。
在硬件方面,星脉网络基于腾讯的网络研发平台,采用全自研设备构建互联底座,实现自动化部署和配置。
在软件方面,腾讯云自研的TiTa网络协议,采用先进的拥塞控制和管理技术,能够实时监测并调整网络拥塞,满足大量服务器节点之间的通信需求,确保数据交换流畅、延时低,实现高负载下的零丢包,使集群通信效率达90%以上。
此外,腾讯云还为星脉网络设计了高性能集合通信库TCCL,融入定制化解决方案,使系统实现了微秒级感知网络质量。结合动态调度机制合理分配通信通道,可以避免因网络问题导致的训练中断等问题,让通信时延降低40%。
网络的可用性,也决定了整个集群的计算稳定性。为确保星脉网络的高可用,腾讯云自研了端到端的全栈网络运营系统,通过端网立体化监控与智能定位系统,将端网问题自动定界分析,让整体故障的排查时间由天级降低至分钟级。同时,大模型训练系统的整体部署时间从19天缩减至4.5天,保证基础配置100%准确。
历经三代技术演进,软硬一体深耕自研
星脉网络全方位的升级背后,是腾讯数据中心网络历经三代技术演进的成果。
在腾讯发展初期,数据中心网络流量主要由用户访问数据中心服务器的南北向流量构成,网络架构以接入、汇聚、出口为主。这一阶段主要使用了商用网络设备,搭建标准化数据中心网络,支撑QQ在线人数增长超过1亿,服务器规模增长超10万。
随着大数据和云计算的兴起,服务器之间的东西向流量逐渐增多,云租户对网络产生了虚拟化和隔离的要求。数据中心网络架构逐渐演变为同时承载南北向和东西向流量的云网络架构,腾讯云构建了全自研网络设备与管理系统,打造超大规模数据中心网络,服务器规模近200万台。
如今随着AI大模型的出现,腾讯云在国内率先推出高性能计算网络,采用东西向、南北向流量的分离架构。构建了独立的超大带宽、符合AI训练流量特征的网络架构,并配合自研软硬件设施,实现整套系统的自主可控,满足超强算力对网络性能的新需求。
日前,腾讯云发布的新一代HCC高性能计算集群,正是基于星脉高性能网络打造,可以实现3.2T超高互联带宽,算力性能较前代提升3倍,为AI大模型训练构筑可靠的高性能网络底座。
未来,腾讯云还将持续投入基础技术的研发,为各行各业的数智化转型提供有力的技术支撑。
责任编辑:
标签:
- 十倍提升大模型通信性能!腾讯云首次完整披露自研星脉高性能计算网络
- 今日聚焦!胡锡进自称正式进入中国股市,李大霄回应!端午节前后A股接连大跌,谁更适合当散户的"心理按摩师"?
- 错误逮捕的情形有哪些 世界速讯
- 【天天速看料】我国拟立法保障粮食安全
- rtx4060上市时间_今头条
- 晋拓股份:股票交易异常波动 无未披露的重大信息 即时
- 全球观点:宋颖
- 最新工资价位表来了!最赚钱的职业是→|天天新要闻
- 斯蒂芬茨威格主要成就在哪两方面(斯蒂芬茨威格人性问题的深度探索者 即时
- 不稳定的奥术水晶掉率(不稳定的奥术水晶)
- 保障达沃斯顺利举行 天津公路全面提升服务保障质量_环球热头条
- 要闻速递:《长风渡》看懂洛家覆灭,才知江河的狠辣,洛子商并不值得同情
- 有含钙“皇后”之称的蔬菜你听说过吗?(附食谱) 全球热讯
- 一把扇子开10000个孔眼,这百年技艺竟在慢慢消失
- 滚动车轮 天天速读
- 外交部:中方支持俄罗斯维护国家稳定 实现发展繁荣
- “芒香万里 桂气芒‘满’”!来看百色芒果“芒起来”
- 蓝光原盘怎么在电视机上播放(蓝光原盘怎么播放) 环球热消息
- 如何用word制作单位抬头信纸(怎么在WORD上制作有公司抬头的信纸样板) 全球快看
- 雅思7.5,申请巴黎顶尖大学成功!-今亮点
- 腾讯汤道生:大模型只是起点 产业落地才是AI更大的场景
- 【独家焦点】各罚200元、记6分!海口曝光一批违法占用应急车道车辆
- 权益FOF理财投资分化,公募基金、债券成“心头好”|机警理财日报
- “招嫖热线”机主向警方求助……|全球报资讯
- 天天通讯!好展会网2021_好展会网
- 牛肉炒绿豆芽的做法大全(绿豆芽的做法大全)|天天快讯
- 债市纵览:央行公开市场净回笼量4780亿元 1只债券因交易异常停牌 动态焦点
- 答谢中书书拼音版原文停顿处 答谢中书书拼音版
- 美债风险积重难返危机待解
- 神奇宝贝剧场版:梦幻与波导的勇者路卡利欧
- 个税年度汇算6月30日结束,抓紧办理! 全球微动态
- 小产权房屋买卖合同无效后法律怎么处置-天天即时
- 没有门槛,无关男女,不论老少……火出圈的成都街头篮球擂台赛昨晚落幕
- 月均增长达“百亿级” 六问快递业如何实现提速发展|环球快资讯
- 有趣又“有料”!端午假期我市接待游客76.51万人次_焦点讯息
- 世界资讯:6月26日基金净值:东方红产业升级混合最新净值4.346,跌2.23%
- 环球速读:保利、中海分食万科551亿广信资产包中两宗地块
- 恒生中国旗下恒生消费行业动力基金年内跌6.76% 今日要闻
- excel强制换行快捷键更改_excel强制换行快捷键
- 每日热闻!某些省份高考已经无限接近“只要带了笔就能过本科线”,还捧“中考分流”的臭脚呢
- Fly无缘亚运会引热议!网友:KPL荣誉第一人都没资格?
- 航天科工光伏电站智能转运无人车研制获突破 全球微头条
- 电锅煎鸡翅正宗做法?
- 海螺环保(00587.HK)与海螺水泥订立替代燃料协同处置服务框架协议_要闻速递
- 新帅用新阵练新人 苏亚雷斯率国安队重新出发
- 天天看热讯:高考志愿填报如何避坑?这场报告备受考生家长热捧
- “民歌”凉粽被检出质量不合格
- 下班路上暖心一幕!这件事,他们坚持了17年!_当前速读
- 特色产业焕新生 为乡村振兴注入新动能
- 【短视频】国际禁毒日:健康人生 绿色无毒 快讯
- 锦湖轮胎发布新品 深度解读公司中国市场最新战略-环球新视野
- 诚志股份(000990):6月26日北向资金减持5.79万股
- 环球聚焦:数字媒体技术专业_数字媒体技术专业学什么
- 环球短讯!中华联合财产保险股份有限公司电话(中华联合财产保险股份有限公司官网)
- 维业股份股东众英集累计减持207.26万股,减持期过半|当前快讯
- usb无法连接电脑怎么办(usb无法连接电脑) 今头条
- 小米14系列现身! 首发3代骁龙8旗舰芯
- 汉中热面皮制作方法 天天速看
- 人民网评:严守耕地红线,端牢中国饭碗
- 俄媒体称瓦格纳组织创始人普里戈任刑事案件尚未结案
- 奥迪在华销量大降,大众集团CEO承认:纯电车型在中国没有竞争力|全球时讯
- 杭州热电涨停
- 格力空调什么系列最好(格力空调什么系列好)-天天快播
- 规范术语、规范评估流程,《发电企业保险风险评估工作指引》正式发布-环球热门
- 不断刷新自己的排名,巴黎之后或是孙颖莎王曼昱的关键对手
- 工行淮安洪泽支行从“心”出发 金融服务零距离
- 【世界热闻】重庆巴月庄实业旗下资产流拍 起拍价7.68亿元
- 除了奥特曼小时候你还看过哪些动画 每日速递
- 江西龟鳖产业全产业链产值已超百亿
- 又有重磅产品获批!大卖近百亿
- 天气大热 陈奕天中暑睡了一天
- 服务再升级 中国石油宁夏销售公司全面推进“厕所革命”
- 悦康药业宣布回购股票后大跌,此前独家集采品种疑未能中选 当前快报
- 在希望的田野上端牢“中国饭碗”——来自东北粮仓的全国土地日报告_快看点
- 酱香泡鸡爪怎么做?
- 超越一个甲子的轮回 首试丰田皇冠SportCross
- 美团在成都成立科技新公司,注册资本100万人民币
- 全球热头条丨谷歌 Pixel 8将具备 USB DisplayPort Alternate功能
- [路演]恒工精密:产能位居国内连续铸造工艺竞争对手前列 曾获“2018 年度中国铸造行业单项冠军产品”等多项荣誉-焦点要闻
- 【当前独家】老年人皮肤瘙痒是怎么回事?该如何防治?
- 全球今头条!任天堂回应建议:经典游戏将重回Switch
- 中国中部第一城,冲刺2万亿元GDP!【附武汉市产业结构分析】
- 全球百事通!一碗米粉为何能上榜国家非遗?
- 第12次!巴菲特累计抛售比亚迪超1.2亿股,持股比例不足9%
- 杭州网约车新门槛:须新车,非新能源纯电动车车价需过15万
- 关于箱涵顶进安全措施的说法,错误的是_今日讯
- 赛力斯携SERES 5开启欧洲交付 国产新能源汽车加速出海
- 全球今日报丨“小马虎”考前出岔子 铁骑:带上头盔我送你!
- Reddit热议TES不敌WE:中路差距大到爆炸!iwandy风女神中神|环球速看料
- 电脑管家恢复删除文件(电脑删除文件怎么恢复)
- 药品说明书字太小?最新草案对适老化改造提要求-环球热消息
- 头条焦点:国内商品期市午盘多数收跌 “双焦”跌超4%
- 焦点关注:声动中国丨“努力了!成功了!”
- 散文丨杨拓夫:独享明月
- 他是梁朝的皇子,隋朝的国舅,唐朝的宰相,入凌烟阁排名第九
- 金自天正:目前公司的供应商主要来自国内
- 金满意足3号增额寿险怎么样?保障什么?|当前聚焦
- 云南柚好课教育科技有限公司虚假宣传诱导消费 看热讯
- 八闽“梧桐”繁茂 企业“宾至如归”
- 世界新资讯:毛利率差20%!光器件龙头,背后有何隐忧?