打开APP
userphoto
未登录

开通VIP,畅享免费电子书等14项超值服

开通VIP
惊人!大模型成“电老虎”,耗能惊人,科技巨头如何应对?
userphoto

2024.03.12 北京

关注

墨科技演进·算未来气象

正文

随着科技的飞速发展,大模型已成为各家科技公司竞相争夺的焦点。然而,在这一现象的背后,却隐藏着惊人的能源消耗。大模型,这个曾被视为科技进步的象征,如今却似乎正在变成一只“电老虎”,其能源消耗量之大,令人咋舌。

据多家媒体报道,OpenAI的聊天机器人ChatGPT每天的电力消耗可能超过50万千瓦时,仅为了响应用户的约2亿个请求。相比之下,一个美国家庭平均每天的电力消耗约为29千瓦时,而中国家庭则更低,一般不超过10度。这意味着ChatGPT每天的用电量是一个美国家庭的1.7万多倍,更是中国家庭的5万倍以上。这一数字之庞大,足以让我们对大模型的能源消耗问题产生深深的忧虑。

然而,这还不是终点。如果生成式AI被广泛应用,其耗电量可能会进一步攀升。据相关数据显示,全球数据中心市场的耗电量在过去十年间已从100亿瓦飙升至1000亿瓦的水平。而据美国Uptime Institute的预测,到2025年,人工智能业务在全球数据中心用电量中的占比将从2%猛增到10%。这一趋势表明,随着人工智能技术的普及和应用,其对能源的需求将呈现爆炸式增长。

荷兰国家银行数据科学家亚历克斯·德弗里斯在一篇论文中估计,到2027年,整个人工智能行业每年将消耗85至134太瓦时的电力。这与阿根廷、荷兰和瑞典各自一年的用电量相当,约占全球当前用电量的0.5%。这一预测数字再次提醒我们,人工智能的能源消耗问题已不容忽视。

以科技巨头谷歌为例,该公司已将生成式AI纳入其电子邮件服务中,并正在测试利用人工智能为其搜索引擎提供动力。目前,谷歌每天处理多达90亿次搜索。如果每次搜索都使用人工智能,那么谷歌每年大约需要29.2太瓦时的电力,这相当于爱尔兰一年的用电量。这样的大模型用电量,已经可以与一个国家的用电量相媲美,这无疑给我们敲响了警钟。

那么,为什么人工智能会变得如此耗能呢?这主要与其采用的巨大参数量有关。参数量越大,所需的电量自然就越多。以OpenAI的ChatGPT和谷歌的LaMDA模型为例,它们的参数量分别高达1750亿和1370亿。如此巨大的参数量需要大量的算力来支撑,从而导致耗电量的激增。

此外,大模型的训练过程也是耗电的主要环节之一。据研究表明,训练一个大模型所需的电力是惊人的。例如,Hugging Face的BLOOM模型在训练过程中消耗了43万多度电,而与其参数量相当的GPT-3更是耗费了128.7万度电。这些数字足以说明训练大模型所需的能源消耗之大。

然而,训练只是大模型耗电的冰山一角。在后期的推理过程中,大模型同样需要大量的计算能力来运行,并因此耗费大量能源。每次用户的请求都需要进行推理计算,这使得大模型的能源消耗在持续使用中不断累积。

除了人工智能训练本身对电的消耗巨大外,制造人工智能设备本身的耗电量同样不可忽视。以英伟达为例,该公司销售的用于人工智能的GPUs占其全部销售额的95%。这些GPU在生产过程中同样需要消耗大量的能源。而随着人工智能设备的普及和应用范围的扩大,其制造过程中的能源消耗也将进一步增加。

面对人工智能的高耗能问题,我们是否应该对其发展持悲观态度呢?答案并非如此。事实上,全球科技巨头已经意识到了这一问题,并正在积极寻求解决方案。微软、谷歌等公司纷纷承诺实现碳中和目标,并努力提高其数据中心的能源效率。同时,也有研究表明小型人工智能模型正在接近大型模型的能力,这可能会带来能源的显著节约。

此外,英伟达等公司也在致力于开发更高性能和更节能的计算模式。通过优化算法、提高硬件效率等手段,他们希望能够降低人工智能的能源消耗。同时,加速计算也被视为减少功耗的主要策略之一。通过构建高效的加速库和AI模型,可以进一步提高人工智能的计算效率,从而降低其能源消耗。

但是,要解决大模型的耗电问题并非易事。我们需要从多个角度出发,综合考虑算法优化、硬件改进、能源管理等多个方面的因素。同时,我们也需要加强国际合作与交流,共同应对人工智能带来的能源挑战。
本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报
打开APP,阅读全文并永久保存 查看更多类似文章
猜你喜欢
类似文章
【热】打开小程序,算一算2024你的财运
大模型的尽头是电力?
AI的尽头是能源!面对“耗电巨兽”我们有哪些办法?
ChatGPT用电量堪比1.7万个美国家庭 生成式AI发展或带来碳危机
和ChatGPT聊天费水?到2027年,全球AI竟然要用这么多水
新基建就是电老虎养成游戏!央视报导了新基...
港联证券今日投资前瞻:人工智能再迎催化 关注房地产板块超跌机会
更多类似文章 >>
生活服务
热点新闻
分享 收藏 导长图 关注 下载文章
绑定账号成功
后续可登录账号畅享VIP特权!
如果VIP功能使用有故障,
可点击这里联系客服!

联系客服