AI的异常是动力？

防走失，电梯直达安全岛报东说念主刘亚东A

起首：常识分子

作家：戚译引 冯灏

不管是否支握东说念主工智能（AI）的发展，咱们齐难以冷落一个庞杂的问题，那即是AI的能耗。有东说念主记念AI发展过快，对动力商场和环境、征象酿成冲击；而有东说念主记念动力产业当先太慢，最终成为制约AI发展的瓶颈。

笔据瞻望，跟着AI的发展和普及，AI在能耗中的占比还将逐年耕种。AI研发企业也在动力供应方面进行了大笔投资，以期闲静将来需求。10月14日，谷歌公司晓示将购买核能初创公司Kairos Power建造的袖珍模块化反应堆分娩的电力[1]。此前在9月20日，微软公司晓示与星座动力公司（Constellation Energy）达成契约，将重启三里岛核电站1号反应堆，并购买其将来20年内产出的电能[2]。OpenAI首席实践官山姆·奥特曼（Sam Altman）更是早早脱手，在本年年头就大举投资核聚变。

但与此同期，新的趋势正在露出。多位业界东说念主士告诉《常识分子》，不错通过多种形式裁汰AI的能耗，让动力诈欺愈加高效，包括软硬件技能的耕种，以及宏不雅层面的斥地布局优化。更庞杂的是，AI当先的标的不一定是更大、更强，一些小而好意思的模子正在悄然登场。

01

AI能耗评估难题

对于AI的耗电量，一篇广为流传的报说念称，ChatGPT 逐日耗电量或超 50 万千瓦时，异常于1.7万个好意思国度庭的能耗[3]。还有量度估算，在最灾祸的场景下，将来谷歌AI的能耗将与像爱尔兰这么的国度异常[4]。可是另一方面，也有不雅点以为媒体和人人经受性关注估算论断较为夸张的量度，并将对AI能耗的担忧视为社会对新技能惯有的反应[5]。

尽管现时对于AI能耗的商榷大多基于估算数据，但咱们仍然不错就此进行一些定性商榷。例如在算法层面，多位业界东说念主士示意，就单次谋划耗电量来说，AI在磨练阶段比推理阶段能耗更高。也即是说，大模子磨练过程中的超高能耗不会成为AI应用中的常态。

清华大学电子工程系主任、清华大学信息科学技能学院副院长汪玉团队测试了不同算力芯片的单卡推理功耗，他告诉《常识分子》：“推理阶段的功耗基本在300W-500W，国产卡在150W-300W；比较之下，磨练阶段的功耗在400W-700W。将来推理功耗还有比较大的下跌空间，同等算力有望降到100W以下。”以开源大言语模子LLama3-405B为例，该模子有4050多亿参数，“使用近16000块英伟达H100 80GB版块GPU进行磨练，耗时长达54天完成，加上配套设备总功耗接近20兆瓦，总能耗卓越20000兆千瓦时”。

真的磨练的能量销耗要高于表面谋划的论断。汪玉示意，大模子磨练时辰长，GPU等硬件难以幸免出现错误。在磨练过程中需要握住进行查验点的保存，出错后中断磨练并进行查验点的规复，这些操作均会酿成难以瞻望的特殊能耗支拨。“这个应该照旧很可不雅的”，汪玉说。

他提到，在大范围集群磨练中容错关系的能耗支拨照旧相等大，比如Llama 3-405B在为期54天的磨练时间，共发生了466次任务中断（平均每3个小时发生一次中断），约78%的中断由硬件问题引起，容错和错误规复的时辰占比约10%，施行算力诈欺率唯有38%把握。

不外，从应用场景上看，用户推理肯求的调用频率要高得多。也即是说，即使单次调用AI的耗电量很低，其总能耗也可能异常可不雅。南京大学高性能谋划中心主任、高等工程师盛乐标告诉《常识分子》，AI系统运行阶段最主要的老本即是电费，但是，“AI的施行应用价值与推理操作的等闲使用班师关系，唯有在推理方面用得更多，AI的落地价值才更大。”

跟着技能的完善，日常使用AI推理的单次能耗有望下跌。上海数珩信息科技独创东说念主、董事长张继生先容，为提高AI系统在特定场景中的性能、裁汰全体能耗，研发出了许多软硬件技能，包括模子压缩、剪枝、量化、异构谋划芯片等。

清华电子院动力电子中心主任兼清鹏智能独创东说念主李中阳重心关注算电协同关系技能的研发与应用，如何匹配算力的用电特色与新动力的供电特色是这一技能的中枢，而这碰巧又需要AI前沿技能极端是大模子技能的加握。李中阳示意：“在宏不雅上，即使AI的能耗/谋划量在握续裁汰，其实亦然挺费电的，因为谋划量永久在那处。”

总体上，对于AI算法能耗的商榷主要基于模子体量、显卡功率、谋划时长等参数进行估算，这使得商榷尤为祸患。量度AI伦理、政策的量度者们号召改变这种不透明的近况。

卡内基梅隆大学东说念主工智能和数字政策中心高等量度员、AIethicist.org 独创东说念主梅尔·希科克（Merve Hickok）对《常识分子》指出，无法量化评估AI的能耗，就无法进行变嫌：“咫尺，各大科技公司齐对我方的动力销耗有很好的了解，可是这些数据并莫得公开。在不少情况下，公司思法进攻这些信息的公开。”她建议，唯有已毕信息透明，咱们技艺精致各方的环境牵累，并推动学术量度朝着愈加节能的标的发展。

02

数据中心能耗超乎思象

商榷AI能耗问题的祸患不仅在于信息不透明，还因为它的规模难以界定。具体而言，AI酿成的能耗远远不仅来自于算法和芯片，还包括与之配套的基础体式，其中最庞杂的即是数据中心的能耗。

尽管数据中心不仅用于AI的运行，还运营加密货币等业务，但是伴跟着AI的爆发，AI在数据中心业务中的位置越来越庞杂，数据中心的数目和范围也在快速增长。而不管是能耗的数目级，照旧背后千般的影响身分，数据中心的能耗问题齐要复杂许多。

数据中心的耗电量远远卓越一般东说念主的思象。外洋动力署（IEA）发布的一份证实高傲，2022年全球数据中心、比特币和AI销耗的电能占全球用电量的2%，达到460 TWh[6]。基于现时增长趋势，IEA揣摸到2026年，全球数据中心总能耗将达1000 TWh，增幅卓越一倍。

据统计，咫尺全球领有卓越8000座数据中心，其中约33%位于好意思国，16%位于欧洲，接近10%位于中国[6]。中国社会科学院工业经济量度所助理量度员张瑾告诉《常识分子》：“宇宙数据中心的耗电量加起来，与其他30个省份（畏俱港澳台和西藏）沿途排序，好像排在10多名把握，卓越近一半的省份全年的电力销耗量。”

何况，数据中心的数目和体量还在增长。张瑾说：“在我的量度区间之内，数据中心的发展是爆炸式的，不管是行业瞻望，照旧股票商场的投资，人人对它开阔抱有极大的和顺。”

IEA证实指出，在数据中心里面，冷却系统和就业器的能耗最高，各占数据中心能耗的40%。剩余20%的电能则用于动力供应系统、存储设备和通信设备[6]。其中，跟着数据中心范围扩大，芯片设备功率提高，冷却系统的能耗日益引起关注。可是，裁汰数据中心电能销耗的想象同期会酿成耗水量的飞腾，在另一个维度上对生态酿成影响。

外洋设施化组织可握续金融科技责任组内行、中国环境科学学会碳达峰碳中庸专委会委员陈钰什告诉《常识分子》，跟着数据中心范围越来越大，使用传统冷却系统的耗电老本较高，因此，“大型数据中心迟缓‘弃电用水’，通过冷水机或冷却塔来交换热量。这诚然不错大幅裁汰耗电量，但却又因挥发等原因酿成惊东说念主的耗水量。”

微软发布的公开证实高傲，微软在2022财年的耗水量为640万立方米，同比加多34%，这一趋势与AI的发展密切关系[7]。加州大学河边分校电气与谋划机工程副教养任绍磊（Shaolei Ren）团队量度高傲， GPT-3每反应10~50个肯求，就要“喝掉”一瓶550 mL的水[8]。

而陈钰什指出：“由于记念设备遇水发生腐蚀等碎裂，数据中心多使用淡水，仅有一小部分为非饮用水或可再生水。2022年，谷歌全球各地的数据中心共耗水52.2亿加仑（约1,976立方米），其中四分之三以上均为淡水。这种用水结构进一步加多了AI行业对全球水生态系统的影响。”

对于新竖立的数据中心，在想象上进行变嫌能够缓解这个问题。盛乐标指出，对于大范围数据中心，液冷技能比风冷技能愈加合算，而且将冷却水密封在轮回中不错减少淡水的销耗。

03

动力行业如何招待挑战

从宏不雅角度上看，AI的环境影响不仅与耗电量相关，也与电能的起首密不能分。发展愈加清洁低碳的动力，何况在基建层面进行筹画，也有助于让AI愈加环境友好。多位业界东说念主士提到，数据中心应当围聚发电厂，以已毕算电耦合，减少电能传输和存储过程中的损耗，这么的产业布局也成心于吸纳绿电。

“近几年，随东数西算政策推动，数据中心布局呈现出由中心向附近、由东部向西部的发展流动趋势”，汪玉告诉《常识分子》。他指出，咫尺新疆有丰富的绿电资源，如光伏、风电。李中阳也以为：“对中国而言，最大的上风是领有矍铄的电网和满盈的动力供应技艺，挑战是如何样尽可能使用更多的新动力（发展东说念主工智能）。”

可是，在东西部发展不平衡的布景下，在西部斥地数据中心也靠近着东说念主才短缺、珍贵祸患的问题。“东数西算最大的问题，是东部的数据或谋划需求到不了西部，”盛乐标指出。AI谋划时常需要无数的数据，要是谋划需求离数据中心太远，数据的传输老本就会相等高。因此，尽管贵州、内蒙等西部地区斥地了不少数据中心，但它们的使用效劳还远远比不上东部的超算中心。

AI的弘大需求也对绿电的自若性建议了挑战。盛乐标指出，风电、水电和光伏容易受到季节影响，而核电行为自若且环保的动力选项，是将来数据中心选址的一个趋势，是以将来的趋势可能是在核电站把握斥地数据中心。就在2024年3月，好意思国亚马逊公司花6.5亿好意思元购买了一座建在核电站把握的数据中心，该核电站可提供960兆瓦的电力。永久来看，可控核聚变技能的打破或然是扶植AI大范围发展的关节。

04

节能减排，AI是助力照旧防碍？

在征象议题越发要紧确当下，AI的发展与节能减排辩论之间的矛盾显得越发敏锐。有学者担忧，从短期看来，AI增长酿成的硬件需求加多势必会加多能耗和碳排放。

“数字产业化和产业数字化，现阶段在统统这个词经济系统的碳排放中占比，施行上相等高。尤其是，东说念主们自然以为新技能产业是适合绿色、低碳条目的，但其实它们的能耗少许也不低，生命周期排放亦然异常高的。”张瑾告诉《常识分子》。

她指出，总体上，学界咫尺意志到，数字化转型与碳排放之间呈现出倒U型关系。在数字化发展初期，无数的基础体式斥地、逾期的配套体式及东说念主才，使得数字化节能减排的效应会被斥地初期产生碳排放加多效支吾消；跟着基础体式迟缓完善，数字化的技能效劳效应判辨，不错大幅耕种动力效劳和减排恶果。“但最近咱们的量度发现，（数字化转型与碳排放之间）或然是N型关系，即跟着数字化发展深度和广度握续推动，数据要素和算力成为驱动经济增长的关节要素时，其对电力的需求会呈现飞跃式的加多，届时会当先一加多能耗和排放。”

也有不雅点以为，AI能够成为东说念主类支吾征象变化的过劲助手，何况这方面的一些应用还是落地。“东说念主工智能不错提供创新的形式来监测、分析和减少咱们对环境的影响。”陈钰什告诉《常识分子》。

他例如说，西门子中国上海智能制造中心的AI数字化动力管制系统已毕了隐敝统统这个词制造过程的瞻望性珍贵，在提高动力效劳的同期幸免了非辩论停机带来的特殊销耗，单元产物能耗裁汰24%；东说念主工智能驱动的华为云盘古大模子、谷歌Flood Hub就业提供了更先进的风景预告，能够匡助东说念主们支吾不幸天气。除此除外，AI还不错用于电网支持、毁灭物管制等领域。

可是，量化评估AI在不同技能发展阶段对环境各个方面的影响十分复杂。郑州大学管制学院讲师李国昊指出：“咫尺使用经济计量方法得出的论断是东说念主工智能发展能够减少排放，但这个论断其实是存在疑问的，因为很难把AI影响碳排放的复杂机理施展晰，也很难将影响旅途中其他打扰身分剔除掉。因此，还要设置更综合的系统模子，来测算它的真的影响。”

除此除外，还可能存在反弹效应——老本裁汰会带来技能的普及，使总能耗耕种。例如，住持用汽车的发动机燃油效劳提高后，驾车出行的老本裁汰了，东说念主们就更倾向于驾车出行，酿成总能耗加多。李国昊以为，东说念主工智能也可能罢免相通的发展旅途：跟着东说念主工智能效劳提高、老本裁汰，其部署量和总能耗也会提高。

不外，在东说念主工智能呼吁大进确当下，商榷其环境影响有时又显得永别时宜。李国昊示意：“关注 AI的能耗本人，就像在经济发展初期去关注环境问题，本人即是不取悦的事情。”

上海金司南金融量度院产物创新中心主任尹茂华驳倒，从可握续发展的角度来看，AI能耗问题“不是短期的热度，它是分娩力和分娩关系根人道变革的新工业翻新”。她以为，中好意思的东说念主工智能技能之间还有几代的差距，陪伴大模子的买卖应用落地，动力的占用和挤压正在发生，但芯片技能迭代也在同步降幼稚耗。东说念主工智能引颈的变革，将如何影响动力结构，需要握续关注。

05

AI的将来也许是“小而好意思”

买卖、科技行业“赢家通吃”的逻辑放大了对逾期的担忧。但多位业界东说念主士指出，一味发展模子、斥地数据中心并不能取。

盛乐标指出，重新磨练大模子老本不菲，对中小企业来说并不现实，“单一追求大型模子和数据中心的斥地并不够聪敏，AI要落地产生更大的价值，将来细则是面向五行八作的行业大模子……唯有热度降下去以后，咱们着实把元气心灵放在算法的优化上，或者是跟行业连合的关系模子量度上。通过与具体行业应用的深度交融，技艺已毕AI价值的最大化。”

比较之下，有针对性地磨练较小的模子不错用较低的老本闲静落地需求。一些企业还是开动了这么的尝试。“咱们的动力销耗一定是比平常他们在作念大模子的低许多。”张继生先容，“OpenAI这些公司作念的大模子齐是过千亿参数的模子。咱们跟客户走得比较近，了解客户的需求，并笔据这些需求作念了不同领域、不同业业的小模子，有些模子可能唯有20亿或50亿参数。”和万亿参数模子比较，这么的小模子磨练老本、磨练时长齐大大压缩，同期还能很好地适合特定领域的使用场景。

与功能坚强的通用大模子比较，面向特定领域的模子比较阻挠易激发人人的关注。施行上，多个AI引擎还是在用户页面提供了特定的话题、用途选项，以便更精准地闲静用户需求，这其中就体现了模子的迭代。

9月12日，OpenAI发布了较小的o1-preview和o1-mini模子，它们针对STEM领域进行了优化，“在物理、化学、生物领域的庞杂挑战性任务上的阐扬与博士生异常”[9]。媒体报说念指出，新的模子进行了更多的推理过程，加多了反应的延伸，有时要一两分钟技艺输出谜底；这种作念法可能加多了能耗，但同期大幅耕种了解答的质地，将来也许能够匡助东说念主类处罚一些庞杂的问题。

或然，除了东说念主工智能除外，咱们还不错从其他许多方面动手，裁汰数字技能的碳排放。图灵奖得主大卫・帕特森（David Patterson）从加州大学伯克利分校退休后加入谷歌公司，他牵头的一项量度分析了在智妙手机和云霄进行机器学习的能耗和碳排放，于本年1月发表[10]。他在恢复《常识分子》的邮件中示意：“笔据我的量度，我以为和使用AI产生的碳排放比较，谋划机制造的隐含碳对征象变化组成了更大的挑战。”

该量度揣摸，东说念主工智能和机器学习的用电量仅占智妙手机用电量的1%，并指脱手机充电器销耗的动力达得手机的3倍以上，无线充电器的能耗尤其不菲。量度还指出：“2021 年，使用寿命过短的智妙手机的隐含碳萍踪险些是数据中心就业器的 3 倍……不久前东说念主们放置了 75 亿部智妙手机。”

一言以蔽之，东说念主工智能的能耗问题株连微不雅和宏不雅的多个层面，征象问题更是如斯。有时候，这么的复杂性会成为东说念主们躲避商榷或不行为的事理。但是另一方面，这也标明不管行业照旧个东说念主，咱们有许多种道路不错推动改变。

李璐对此文亦有孝敬

参考文件：（险峻滑动可浏览）

[1] Michael Terrell. New nuclear clean energy agreement with Kairos Power. Google Blog. https://blog.google/outreach-initiatives/sustainability/google-kairos-power-nuclear-energy-agreement/. 2024-10-14/2024-10-22[2] Jennifer Hiller. Three Mile Island’s Nuclear Plant to Reopen, Help Power Microsoft’s AI Centers. The Wall Street Journal. https://www.wsj.com/business/energy-oil/three-mile-islands-nuclear-plant-to-reopen-help-power-microsofts-ai-centers-aebfb3c8. 2024-09-20/2024-09-23.[3] Elizabeth Kolbert. The Obscene Energy Demands of A.I.. The New Yorker. https://www.newyorker.com/news/daily-comment/the-obscene-energy-demands-of-ai. 2024-03-09/2024-09-25[4] de Vries A. The growing energy footprint of artificial intelligence[J]. Joule, 2023, 7(10): 2191-2194.[5] Daniel Castro. Rethinking Concerns About AI’s Energy Use. Center for Data Innovation. https://datainnovation.org/2024/01/rethinking-concerns-about-ais-energy-use/. 2024-01-29/2024-10-22[6] IEA (2024), Electricity 2024, IEA, Paris https://www.iea.org/reports/electricity-2024.[7] 2022 Environmental Sustainability Report. Microsoft. https://news.microsoft.com/wp-content/uploads/prod/sites/42/2023/05/2022-Environmental-Sustainability-Report.pdf. 2023-05/2024-09-25.[8] Li P, Yang J, Islam M A, et al. Making ai less" thirsty": Uncovering and addressing the secret water footprint of ai models[J]. arXiv preprint arXiv:2304.03271, 2023.[9] Introducing OpenAI o1-preview. OpenAI. https://openai.com/index/introducing-openai-o1-preview/. 2024-09-12/2024-09-25.[10] Patterson D, Gilbert J M, Gruteser M, et al. Energy and Emissions of Machine Learning on Smartphones vs. the Cloud[J]. Communications of the ACM, 2024, 67(2): 86-97. https://dl.acm.org/doi/pdf/10.1145/3624719.