张亚勤:马斯克断言地球电力将枯竭,为何AI如此耗电?

2个月前 (02-25)热点话题2

  

马斯克断言地球电力将枯竭,为何AI如此耗电?针对此问题,《聊一波》栏目邀请中国工程院外籍院士、清华大学智能产业研究院创始院长张亚勤展开探讨。

  

  

  


  王波明:大模型对电的需求量很大,究竟达到了怎样的规模,会导致电力供应不足?比如在美国,其电力消耗处于什么量级?

  


  张亚勤:如果看一下这一轮的人工智能,叫做生成式人工智能。这类技术需要海量的参数支撑,同时离不开大量图形处理器(GPU)的运算。其中涉及的参数规模可达万亿级,再加上高带宽内存(HBM)及各类网络设备,十分耗电。

  

这就涉及到一个概念:规模定律(scaling law),即数据量越大、算力越强,再辅以更优的算法,模型性能就会越好,而其电力消耗也基本呈现指数级增长。

  

目前主流使用的算法是Transformer,其算力需求呈n平方量级增长,本质上也是指数级攀升。这里的n指的是Token的尺寸,而算力需求与n的平方成正比,所以生成式AI对电力的要求确实很高。

  

美国当前的电力困境,一方面是美国的整体电网大多是30多年前部署的,电力系统中的变压器使用寿命通常为30年,如今已普遍出现老化退化现象。因此,美国电网不仅容量不足,还存在严重的老化问题热点话题张亚勤:马斯克断言地球电力将枯竭,为何AI如此耗电?

“张亚勤:马斯克断言地球电力将枯竭,为何AI如此耗电?” 的相关文章

杨鸣:下一场我们只有两名外援出战 国内球员担重任

  北京时间1月18日,CBA常规赛第16轮继续进行,辽宁队在主场以83-87不敌深圳。赛后,辽宁队主帅杨鸣接受了媒体采访。   ...

深度解析马斯克访谈 AI与未来社会的震撼预测

  深度解析马斯克访谈 AI与未来社会的震撼预测!昨天,马斯克接受了一场长达3小时的深度访谈,分享了许多颠覆性的观点。他提到AI的进步速度超乎想象,预计2026年将实现AGI(通用人工智能...

“味道大受不了,只有晚上打药,我们基本都不吃”,央视曝光 违规使用含毒农药

  “味道大受不了,只有晚上打药,我们基本都不吃”,央视曝光 违规使用含毒农药!《财经调查》栏目最近接到消费者举报,称某些地方的商户和企业仍在违规销售国家明令禁止或限制使用的含毒农药。...

紧急提醒!北京很多市民都在用,已发生多起事故,赶快拆掉

  近日,北京冷空气持续来袭   不少骑车出行的市民   纷纷“全副武装”套上“挡风被”   将厚外套或者长外套反穿...

5个月跌40%,泡泡玛特近两年来首次出手回购股票,股价大涨 市场信心回升

  泡泡玛特在股价近五个月内下跌超过40%后,决定回购公司股票。1月20日,泡泡玛特早盘大幅高开超过5%,盘中大涨超10%,报199.6港元/股。此前一天,泡泡玛特宣布斥资2.51亿港元回...

嫣然天使基金暂时暂停筹款 筹款预算提前满额

  1月19日,许多网友在嫣然天使基金筹款页面留言表示无法捐款。据工作人员回应,由于近期大量网友捐款,导致常规筹款预算提前达到上限,目前正积极沟通重新开通捐款渠道。当晚21:00,界面新闻...