张亚勤:马斯克断言地球电力将枯竭,为何AI如此耗电?

5个月前 (02-25)热点话题5

  

马斯克断言地球电力将枯竭,为何AI如此耗电?针对此问题,《聊一波》栏目邀请中国工程院外籍院士、清华大学智能产业研究院创始院长张亚勤展开探讨。

  

  

  


  王波明:大模型对电的需求量很大,究竟达到了怎样的规模,会导致电力供应不足?比如在美国,其电力消耗处于什么量级?

  


  张亚勤:如果看一下这一轮的人工智能,叫做生成式人工智能。这类技术需要海量的参数支撑,同时离不开大量图形处理器(GPU)的运算。其中涉及的参数规模可达万亿级,再加上高带宽内存(HBM)及各类网络设备,十分耗电。

  

这就涉及到一个概念:规模定律(scaling law),即数据量越大、算力越强,再辅以更优的算法,模型性能就会越好,而其电力消耗也基本呈现指数级增长。

  

目前主流使用的算法是Transformer,其算力需求呈n平方量级增长,本质上也是指数级攀升。这里的n指的是Token的尺寸,而算力需求与n的平方成正比,所以生成式AI对电力的要求确实很高。

  

美国当前的电力困境,一方面是美国的整体电网大多是30多年前部署的,电力系统中的变压器使用寿命通常为30年,如今已普遍出现老化退化现象。因此,美国电网不仅容量不足,还存在严重的老化问题热点话题张亚勤:马斯克断言地球电力将枯竭,为何AI如此耗电?

“张亚勤:马斯克断言地球电力将枯竭,为何AI如此耗电?” 的相关文章

黄金仍猛涨 有吊坠一夜涨1.9万 金价创新高引发热议

  今日,国际黄金和白银价格均创历史新高。伦敦现货黄金价格一度涨破每盎司4690美元,现货白银价格突破每盎司94美元。这一消息迅速引起广泛关注。   ...

借助AI一人公司悄然兴起 创业新范式照进现实

  在北京市海淀区中关村AI北纬社区,一种新的创业模式正在兴起。这种以“单人+AI”为核心的OPC(一人公司)创业模式热点话题,为人工智能产业发展注入了全新活力。   以...

较强冷空气将影响广州 气温骤降需保暖

  广东省气象局发布消息,预计北方较强冷空气前锋将于20日早晨影响粤北地区,傍晚前后影响中部,夜间则会影响南部沿海。此次冷空气过程的最低气温将出现在22日前后。期间,21日至23日,粤北地...

大寒养生喝三子饮 大寒滋养肝肾试试这款代茶饮

  中医建议大寒喝三子饮:覆盆子、桑葚子、枸杞子各10克,洗净后加适量清水煮开30分钟即可。此茶饮具有滋补肝肾、填精固真的功效。需要注意的是,脾胃虚寒、胃酸过多人群不适合饮用~...

江苏多校通知提前放学 应对雨雪天气

  据网友反映,南京部分中小学通知今天提前放学。多所初中学校提前一个小时放学,鼓楼、玄武等区的小学也通知提前放学。南京市鼓楼实验学校通知家长,因雨雪天气变化,周一周二下午6点放学,取消晚自...

俞敏洪宣布年薪150万聘请陈行甲 携手推动公益事业

  11月20日,新东方创始人俞敏洪在其个人抖音号上发布通告,宣布新东方教育科技集团聘请陈行甲为新东方教育、东方甄选、新东方文旅的总顾问,年薪为150万元人民币。通告还提到,俞敏洪将加入陈...