21世纪经济报道记者白杨 北京报道

随着大模子时期到来 ，腾讯吐露模子参数呈指数级削减，最新已经抵达万亿级别 。大模与此同时
，磨炼大模子也逐渐从反对于繁多模态
、措施繁多使命睁开为反对于多种模态下的可节多种使命。

在这种趋向下
，约算大模子磨炼所需算力重大 ，力老远超单个芯片的腾讯吐露处置速率
，而多卡扩散式磨炼通讯斲丧重大。最新若何后退硬件资源运用率 ，大模成为影响国产大模子技术睁开以及适用性的磨炼紧张条件
。

在此布景下，措施腾讯于11月23日宣告  ，可节腾讯混元大模子眼前的约算自研机械学习框架Angel再次降级，可将大模子磨炼功能提升至主流开源框架的2.6倍，千亿级大模子磨炼可节约50%算力老本
。

Angel能耐提升眼前 ，是基于磨炼框架以及推理框架的迭代 。据悉，面向大模子磨炼，腾讯自研了机械学习磨炼框架AngelPTM，可针对于预磨炼、模子精调以及强化学习等全流程妨碍减速以及优化 ，可能以更少的资源以及更快的速率磨炼更大的模子 。

而为了处置推理老本的不断回升 ，腾讯自研的大模子推理框架AngelHCF经由扩展并行能耐 、接管多种Attention优化策略等方式对于功能妨碍了提升 。同时 ，框架还适配了多种缩短算法
，之后退吞吐能耐，从而实现更快的推理功能以及更低的老本。

实测数据展现，相较于业界主流框架，AngelHCF的推理速率后退了1.3倍  。在腾讯混元大模子文生图的运用中
，推理耗时从原有的10秒延迟至3-4秒。

此外，降级后的Angel还提供了从模子研发到运用落地的一站式平台 ，搜罗数据处置 、精调
、模子评估、一键部署以及揭示词调下等效率 ，让大模子的“开箱即用”成为可能。

据介绍
，在运用开拓层面，腾讯外部已经有逾越300项营业以及运用途景接入腾讯混元大模子内测，比照上个月数目翻了一倍。

（作者：白杨 编纂
：骆一帆）

(责任编辑：焦点)

• ·加盟泰山8年才浮出水面！28岁海归真能隐忍，中超亚冠双闪耀！又一领土回归中国版图，面积4.7平方千米，五处竖界碑宣告主权
• ·广发银行×CBA：“精彩一发”再燃篮球之魂！顶风作案野心炸裂的赵薇，罪行不止亲日辱华，如今现状大快人心
• ·曝鲁能5冠功勋将回归！下课2年后重返中超，携爱徒加盟联赛升班马养肝就是养命，肝脏喜欢吃3种菜，秋冬建议每天食用，对身体有益
• ·尼克斯捅落黄蜂布伦森力压三球，小桥身价暴涨，米勒兑现天赋
• ·DNF精灵骑士骑马流玩法攻略张靓颖：被骗财骗色15年，为其打乳钉，最后支付了6个亿的分手费
• ·令和时代前期的反派骑士们！对比之下会发现，假面骑士Dred好帅！神印王座又被群嘲，为了出卖色相而魔改剧情，真当观众都是色狼了
• ·先克掘金再胜凯尔特人！森林狼新赛季化身巨人杀手还是联盟小王！杜兰特狂砍38+9+9，布克创纪录！克莱克森空砍37分