会员登录 - 用户注册 - 设为首页 - 加入收藏 - 网站地图 NVIDIA:GPU磨炼AI大模子可飞腾96%老本!

NVIDIA:GPU磨炼AI大模子可飞腾96%老本

时间:2025-03-01 05:58:10 来源:おつかいひなこ(追貝雏子)网 作者:焦点 阅读:824次

克日新闻,磨模在适才召开的炼A老本2023年台北电脑展上,NVIDIA首席实施官黄仁勋妨碍了演讲。飞腾

在演讲中  ,磨模黄仁勋向传统的炼A老本CPU效率器集群建议“挑战” ,以为在家养智能以及减速合计这一未来倾向上 ,飞腾GPU效率器有着加倍强盛的磨模优势。

凭证黄仁勋在演讲上揭示的炼A老本典型 ,磨炼一个LLM狂语言模子,飞腾将需要960个CPU组成的磨模效率器集群 ,这将破费约莫1000万美元(约合国夷易近币7070万元) ,炼A老本并破费11千兆瓦时的飞腾电力。

比照之下 ,磨模同样以1000万美元的炼A老本老本去组建GPU效率器集群 ,将以仅3.2千兆瓦时的飞腾电力破费 ,磨炼44个LLM大模子 。

假如同样破费11千兆瓦时的电量 ,那末GPU效率器集群可能实现150倍的减速 ,磨炼150个LLM大模子 ,且占地面积更小。

而当用户仅仅想磨炼一个LLM大模子时,则惟独要一个40万美元摆布,破费0.13千兆瓦时电力的GPU效率器即可 。

换言之 ,比照CPU效率器 ,GPU效率器可能以4%的老本以及1.2%的电力破费来磨炼一个LLM,这将带来重大的老本节约 。

自 快科技

(责任编辑:时尚)

推荐内容
  • 原创            美媒预测东西部球队进入季后赛概率;篮网伤病报告出炉,西蒙斯缺阵
  • RCEP进入周全实施新阶段  银行抢跑妄想
  • 巴特勒总决赛为甚么不神了 形态大跳水真是意外吗?
  • 【揭秘】给AI米兰打样,国米证明意大利人才懂意大利那个高考故意考0分,写8000字抨击高考制度的蒋多多,现在怎样?
  • 快船过大年落后15分赢球,32中9最佳卧底约基奇居然也有今天湖北妈妈肾衰竭,移植7岁儿子的肾,得救后:我的孩子,你安心走
  • 墨西哥超级兽腰闪耀荷甲,攻守兼备,4大豪强追逐,最大下家浮现