首页 国际展会 大数据展会
法国虚拟现实展览会
LAVAL VIRTUAL
16000㎡
观众人数:1.8w
hot
6903人浏览
距离开展还有 22
头像
广州市博达捷运物流有限公司
订阅
新加坡亚洲云计算展览会
CLOUD EXPO ASIA
30000㎡
观众人数:2.8w
hot
6762人浏览
距离开展还有 204
头像
头像
头像
头像
头像
陕西钻诺国际贸易有限公司
订阅
新加坡亚洲数据中心展览会
Data Centre World AISA
30000㎡
观众人数:2.8w
hot
8897人浏览
距离开展还有 204
头像
头像
头像
头像
广州市博达捷运物流有限公司
订阅
日本东京数据存储展览会
DATA STORAGE EXPO
35000㎡
观众人数:5.0w
hot
5285人浏览
距离开展还有 36
头像
中国信息协会
订阅
日本东京全球数字营销峰会
ad: tech tokyo
12000㎡
观众人数:1.5w
hot
1.0w人浏览
距离开展还有 212
头像
广州市博达捷运物流有限公司
订阅
美国洛杉矶移动通信大会暨展览会
MWC LOS ANGELES
40000㎡
观众人数:5.6w
hot
9568人浏览
距离开展还有 203
头像
头像
头像
头像
深圳市昕思达电子科技有限公司
订阅
法国欧洲宽带5G通信云服务世界论坛暨展览会
Network X
20000㎡
观众人数:2.2w
hot
5657人浏览
距离开展还有 203
头像
京品高科信息科技
订阅
德国汉堡超级计算展-德国超级电脑展
ISC High Performance
20000㎡
观众人数:1.7w
hot
7504人浏览
距离开展还有 54
头像
头像
深圳昂湃技术有限公司
订阅
英国伦敦云计算、网络安全展览会
Cloud Expo Europe
25000㎡
观众人数:2.9w
hot
4736人浏览
距离开展还有 358
头像
头像
订阅
英国伦敦数据中心展览会
Data Centre World
26000㎡
观众人数:1.4w
hot
5436人浏览
距离开展还有 358
头像
商宇电子
订阅
德国法兰克福数据中心展览会
Data Centre World
20000㎡
观众人数:1.5w
hot
5040人浏览
距离开展还有 64
头像
头像
商宇电子
订阅
法国巴黎数据中心展览会
Data Centre World
20000㎡
观众人数:1.6w
hot
5143人浏览
距离开展还有 253
头像
头像
订阅
下一页
前往
大数据行业动态资讯

更多

AI的尽头是能源!面对AI高能耗有哪些解决方案?

AI的尽头是能源!面对AI高能耗有哪些解决方案?

03-14 20:35:09 43

AI的尽头是能源? 近日,科技圈的领军人物黄仁勋表示: “当我们替换通用计算的基础设施时,请记住架构的性能将不断提高。你不能只想着要购买更多的计算机,你还必须假设,计算机的速度会越来越快。因此,你所需要的总量就不会这么多了。否则,如果你只是假设计算机的速度永远不会变快,你可能会得出一个结论——我们需要14个不同的行星、3个不同星系、4个太阳为这一切提供燃料。” “但是很明显的是计算机架构不断进步。在过去的十年里,我们做出的最伟大贡献之一就是将计算和人工智能提高了一百万倍。因此,无论你认为推动世界的需求是什么,你都必须考虑到,它还将以100万倍的速度增长,变得更快和更高效。” “当某些东西提高了一百万倍,而它所消耗的成本、空间或能源并没有增长一百万倍。事实上,你已经使这项技术大众化了。” 能源对于AI 到底有多重要? 从事实来看,AI发展的确依赖于能源创新,当今科技圈的两位大佬,OpenAI创始人阿尔特曼和马斯克此前已给出明确观点。 前者认为未来AI的技术取决于能源突破,更有利于气候变化的能源,尤其是核聚变或更便宜的太阳能以及储能,是人工智能的发展方向。 后者认为,虽然AI技术有望引领未来最大的科技革命,但同时也可能因为2025年的能源瓶颈而面临发展挑战。 不环保的AI 不可否认,未来人工智能需要能源方面的突破,因为人工智能消耗的电力将远远超过人们的预期。 据《纽约客》杂志报道,据国外研究机构的报告,ChatGPT每天要响应大约2亿个请求,在此过程中消耗超过50万度电力(美国商业用电一度约为0.147美元50万度电相当于一天花费7.35万美元)。而每一个美国家庭的平均用电量只有29度,也就是说,ChatGPT每天用电量相当于1.7万个美国家庭的用电量。 这一数据是荷兰国家银行数据科学家亚历克斯•德弗里斯(Alex de Vries)通过英伟达、OpenAI、谷歌等公开数据进行的估,他还预计,到2027年,整个人工智能行业每年将消耗85至134太瓦时(1太瓦时=10亿千瓦时)的电力。 由于算力设备的冷却需求,AI的耗水量也让人瞠目结舌。美国加州大学河滨分校的研究员任少雷一直在试图计算ChatGPT等生成式人工智能产品对环境的影响。任少雷的团队估计,每次你问ChatGPT 5到50个提示或问题时,它就会消耗500毫升的水。而这款聊天机器人有超过1亿的活跃用户,且当下大型科技公司均在争前恐后加快研发同类产品。 不止如此,算力的大规模部署和应用不仅消耗大量资源,同时也带来碳排放问题。以数据中心碳排放为例,数据中心碳排放主要来源于IT设备、空调系统、电源系统、照明系统等电力消费产生的间接排放,根据生态环境部环境规划院发布的《中国区域电网二氧化碳排放因子研究(2023)》,目前我国各省平均电网排放因子约0.61千克/千瓦时,若2025年、2030年各省平均电网排放因子保持目前的水平不变,则2025年、2030年我国数据中心间接碳排放量将分别达到2.1亿吨、3.5亿吨。 如何解决? 随着AI的进步、模型的增大,如何解决伴生而来的高耗能问题? 当下的重点在于开源,风能、光伏等可再生新能源被视作数据中心重要的能量池,核能尤其被寄予厚望。 节流方面,由于模型本身的算法和架构,以及硬件优化均会让AI功耗在一定程度上降低,已经有一些解决大模型高能耗问题的思路,主要包括: 1 算法和模型优化 通过算法优化,如权重剪枝、量化等技术,以及模型压缩技术,减少模型的复杂度,同时保持或接近原有的性能。近年来提出的一些轻量级模型(如MobileNet)就是为了低功耗场景而设计的。 2 硬件优化 开发和使用更高效的AI专用硬件,如英伟达开发的GPU T4和A100,谷歌开发的TPU(Tensor Processing Unit),这些硬件专为AI任务设计,能够在更低的能耗下提供更高的计算效率。 3 训练、计算技巧 训练技巧是一种通过调整神经网络的训练过程来优化计算资源的方法。例如,分布式训练技术可以利用多台计算机分担大规模计算的负荷。另外,将AI计算任务从云端转移到边缘设备,这样可以减少数据传输所需的能量,并利用边缘设备的低功耗特性。 4 提高数据中心的能效 通过优化数据中心的设计和管理,提高电源使用效率。例如,使用更高效的冷却系统,或者通过AI技术动态调整数据中心的运行状态以降低能耗。 其中,对于第四点,国内大厂纷纷给出解决方案。比如腾讯能源业务已独立成为一级部门,其数据中心部门还组建了专门绿色能源团队,应用自然冷却、液冷、三联供、余热回收等新兴节能技术,提高制冷效率以降低数据中心能耗。华为、京东、亚马逊等也纷纷入局智慧能源领域。 文章来源:《科创板日报》,作者宋子乔 如有侵权请联系编辑删除 更多算力、能源解决方案 12月 上海  四展联动 数据中心+电力+储能+智能建筑 由中国电子节能技术协会数据中心节能技术分会、中关村协众创智信息产业促进会、香港雅式展览服务有限公司共同主办的 「CDCE2024国际数据中心及云计算展」 将于 2024年12月5-7日 在 上海新国际博览中心 隆重举办。与知名品牌展览会-由中国电力企业联合会及国家电网主办,雅式承办的 【EP 国际电力电工展】、【ES Shanghai储能展】 和中国建筑节能协会电气分会、中国勘察设计协会电气分会指导,亚太建设科技信息研究院有限公司、雅式及《智能建筑电气技术》杂志社主办的 【IBG智能建筑暨节能展】 同期四展联动,强强联合!带来更多 算力、AI、能源、节能改造等技术方案 。总规模超72,000平方米、 60,000+专业观众、 1,800+参展企业、30+专题会议, 助力「Al时代」数智未来 。 了解更多 官方微信 新鲜资讯 1V1 专属客服 视频号 动态了解展会 来抖音看看吧
  • icon 电话
    展位咨询:0571-88683357
    观众咨询:0571-88611413
  • icon 客服
  • icon 我的
  • icon 门票
  • 展位
    合作