每经记者 文巧 实习记者 岳楚鹏 每经编辑 高涵
当地时间8月26日,OpenAI硬件设施负责人Trevor Cai在Hot Chips 2024上发表了长达一小时的演讲,主题为“构建可扩展的AI基础设施”。他指出,OpenAI的一项重要观察结果是,扩大规模可以产生更好、更有用的人工智能(AI)。
作为全球芯片行业影响力最大的会议之一,Hot Chips于每年8月份在斯坦福大学举行。不同于其他行业会议以学术研究为主,Hot Chips是一场产业界的盛会,各大处理器公司会在每年的会上展现他们最新的产品以及在研的产品。
《每日经济新闻》记者注意到,AI浪潮推动数据中心激增,同时也伴随着能源需求的激增。在这样的背景下,此次的Hot Chips大会上,围绕人工智能的议题比以往任何一届都更加活跃。Trevor Cai的演讲着眼于解决能源和算力之间的问题,英特尔、IBM和英伟达等则是提出了更节能的技术方案。
摩根士丹利在8月份发布的研究中预测称,生成式AI的电力需求将在未来几年内每年飙升75%,预计到2026年,其消耗的能源量将与西班牙在2022年的消耗量相当。科技巨头们该如何应对能源挑战?
聚焦“节能方案”
当地时间8月26日,一年一度的半导体企业盛会Hot Chips2024在斯坦福大学纪念礼堂举行,今年是第36届。
从会议第一天的情况来看,大部分的话题都集中在了更节能、安全且可扩展的大规模AI服务器部署方案上。
OpenAI硬件负责人Trevor Cai发表了“可预测的扩展和基础设施”主题演讲,谈到了提升计算能力所带来的可预测的扩展效益,这也是OpenAI自成立之初就关注的重点。一个重要的观察结果是,扩大规模可以产生更好、更有用的人工智能。“每次计算量翻倍,都会得到更好的结果。模型的能力和计算资源的消耗是呈指数级别上升的。自2018年以来,行业中前沿模型的计算量每年增长约4倍。”他说道。
最初,GPT-1只需几周的时间完成训练。如今,它已经扩展到需要庞大的GPU集群。因此,OpenAI认为AI的基础建设需要大量投资,因为计算能力的提升已经产生了超过8个数量级的效益。
似乎是为了呼应OpenAI的演讲,各大公司的演讲也不约而同地提到了大规模部署AI服务器的计划方案。
IBM在大会上披露了即将推出的IBM Telum II处理器和IBM Spyre加速器的架构细节。新技术旨在显著扩展下一代IBM Z大型机系统的处理能力,通过一种新的AI集成方法帮助加速传统AI模型和大型语言 AI模型的协同使用。IBM特别强调这次更新的先进I/O技术旨在降低能耗和数据中心占用空间。
英伟达也在大会上放出了最新的AI集群架构Blackwell的相关消息。英伟达称,Blackwell拥有6项革命性技术,可支持多达10万亿参数的模型进行AI训练和实时大语言模型(LLM)推理。值得注意的是,英伟达的Quasar量化系统用于确定可以使用较低精度的内容,从而减少计算和存储。英伟达表示他们的宗旨就是在提高能源效率的同时为AI和加速计算性能提供新标准。
除此之外,英特尔、博通、海力士等公司的演讲中均提到了更节能的技术方案。
能源需求激增
科技巨头们着眼“更节能的”技术方案的根本原因在于,当前人工智能热潮正在增加更强大的处理器以及保持数据中心冷却所需的能源需求。
当前,微软、Alphabet和Meta等大型科技公司正在投资数十亿美元建设数据中心基础设施,以支持生成式人工智能,但数据中心的激增也伴随着能源需求的激增。
据彭博社报道,仅去年,大型科技公司就向数据中心设施投入了约1050亿美元。谷歌、苹果和特斯拉等公司不断通过新产品和服务增强AI能力。每项AI任务都需要巨大的计算能力,这意味着数据中心会消耗大量电力。国际能源署(IEA)预测,到2026年,全球数据中心每年使用的能源量将相当于日本的电力消耗量。
Hugging Face的人工智能和气候负责人Sasha Luccioni提到,虽然训练AI模型需要耗费大量能源(例如,训练 GPT-3模型耗费了大约1300兆瓦时的电力,而GPT-4的训练消耗是GPT3的50倍),但通常只进行一次。然而,由于查询量巨大,模型生成响应可能需要更多能源。
例如,当用户向ChatGPT等AI模型提问时,需要向数据中心发送请求,然后强大的处理器会生成响应。这个过程虽然很快,但消耗的能量也是巨大的。根据艾伦人工智能研究所的数据,对ChatGPT进行一次查询所消耗的电量相当于为灯泡点亮20分钟,是简单Google搜索耗电量的10倍以上。
然而,全球的电力资源有限,而数据中心需要持续稳定的电力供应来运行服务器和其他核心运营设备。如果能源供应不稳定,停机可能会给企业和其他用户造成重大经济损失。此外,巨大的能源消耗也引发了人们对环境的担忧。
为应对这一挑战,科技公司们开始寻找解决方案。
部分公司选择更清洁且高效的能源供给,如核能。亚马逊最近在美国宾夕法尼亚州东北部购买了一个价值6.5亿美元的核能数据中心园区设施,该设施将使用核反应堆产生的高达40%的电力,最终使亚马逊能够减少对当地电网的依赖。与此同时,微软聘请了核专家来带头寻找这种替代电源。微软还与核电站运营商签订了合同协议,为其位于弗吉尼亚州的一个数据中心提供电力。
除此之外,科技公司们不仅在前文所提到的一系列芯片节能技术进行努力,也在其他硬件设施和技术上下足了功夫。
谷歌正在开发人工智能专用芯片,例如张量处理单元(TPU),这些芯片针对人工智能任务进行了优化,而不是使用为游戏技术创建的图形处理单元(GPU)。
英伟达针对Blackwell芯片的直接液体冷却系统还宣布了一项研究,研究表明了如何重新利用从服务器中吸收的热量并将其回收到数据中心。据英伟达估计,冷却最多可减少数据中心设施耗电量的28%。
然而,威斯康星大学麦迪逊分校的教授辛克莱提醒,杰文斯悖论在这里依然适用。“提高人工智能的效率,虽然减少了单次能耗,但整体使用率的增加最终会导致总体能耗的上升。”辛克莱解释道。这个悖论不仅适用于19世纪的火车煤炭使用,同样适用于当今的人工智能和电力消耗。
![](http://img.t.sinajs.cn/t5/style/images/face/male_180.png)
![](http://img.t.sinajs.cn/t5/style/images/face/male_180.png)
APP专享直播
热门推荐
61岁乘客在飞机上昏迷抢救无效死亡 航司回应 收起61岁乘客在飞机上昏迷抢救无效死亡 航司回应
- 2025年02月16日
- 14:00
- APP专享
- 扒圈小记
82,977
法国小伙带622张日军侵华照片抵达北京,希望捐赠给中国
- 2025年02月16日
- 13:38
- APP专享
- 扒圈小记
21,364
人民热评:重庆燃气事件,不要每次都以道歉收场
- 2025年02月16日
- 13:58
- APP专享
- 北京时间
6,218
![新浪财经公众号 新浪财经公众号](http://n.sinaimg.cn/finance/72219a70/20180103/_thumb_23666.png)
24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)
投资研报 扫码订阅
股市直播
-
宋谈股经今天 07:23:15
2月17日收评:三大指数小幅上涨,机器人(sz300024)概念股午后爆发1、沪指全天窄幅震荡,创业板指冲高回落。AI医疗概念持续走强,泓博医药(sz301230)、安必平(sh688393)、塞力医疗(sh603716)、美年健康(sz002044)、贝瑞基因(sz000710)等多股涨停。机器人(sz300024)概念股午后爆发,长盛轴承(sz300718)、新时达(sz002527)、泰豪科技(sh600590)、捷昌驱动(sh603583)、浙江荣泰(sh603119)等多股封板。腾讯云概念走强,数据港(sh603881)、云赛智联(sh600602)、东华软件(sz002065)、科华数据(sz002335)、世纪恒通(sz301428)等涨停。下跌方面,影视股集体调整,横店影视(sh603103)跌停,光线传媒(sz300251)、华策影视(sz300133)跌超10%。个股涨多跌少,沪深京三市超3600股飘红,今日成交1.97万亿。截止收盘沪指涨0.27%,深成指涨0.39%,创业板指涨0.51%。2、板块概念方面,AI医疗、AI教育、机器人(sz300024)、液冷服务器等板块涨幅居前,黄金、影视传媒、锂矿、民航机场等板块跌幅居前。3、两市共3464只个股上涨,112只个股涨停,1551只个股下跌,7只个股跌停,51只股票炸板,炸板率31%。 -
波段擒龙今天 07:10:37
A股今日三大指数集体上涨,截至收盘,沪指涨0.27%,深成指涨0.39%,创业板指涨0.51%,北证50指数涨1.76%。全市场成交额19718亿元,较上日放量2270亿元。全市场超3600只个股上涨。板块题材上,AI教育、医疗等应用、机器人(sz300024)、农业、AMC、CPO概念股涨幅居前;影视院线、有色金属、机场航运、银行板块跌幅居前。 -
徐小明今天 07:07:11
【盘中直播】语音课见 -
徐善武今天 07:05:34
上证指数今天午后出现了一波回落,但是又很快拉回来,最后基本上以全天最高点位收盘,大盘进入到去年10月后的震荡箱体,这个位置我们前面也一直在强调,压力区间震荡会加大,同时,市场会在震荡中完成洗盘,全天成交超19000亿,量能持续的放大,也给了市场一定的赚钱效应。两市上涨股票超3600家,指数不强但是个股表现比较强,在此之前,A股已经连续四天题材个股是跌多涨少的,空方情绪其实已经得到过宣泄了,量能相比上周五同期放大近2300亿,这般爆量但指数却没有作为,唯一的解释就是近期的获利盘开始加速兑现了,只要今天能稳的住,明天的危险就会小很多。赛道板块方面,主线人工智能终究没能延续上周火上浇油的走势,从分歧正式走入退潮期,就连从低位开始承接的Ai医疗也有点撑不住,说明这不是一个方向在退潮,而是超短情绪的整体退潮,接下来大家要有意识地去回避高标。【更多独家重磅股市观点请点击】 -
巨丰投资张翠霞今天 07:03:29
4小时运行结束,总结全天市场运行,1)指数高开低走补缺后,尾盘震荡回升,延续去年9月份行情规律,周五周一上涨,盘口看个股轮动加大,下半月关注两会政策预期,以及科技方向;2)量能,沪深两市今日成交额19718亿元,较上个交易日17448亿元增加2270亿元;3)行业板块方面,以加权涨幅来看56家行业39家红盘,电信运营、通用机械、通信设备等板块涨幅居前;传媒娱乐、有色、煤炭等板块跌幅居前;4)市场延续结构型行情,题材热点快速轮动。详细解盘,可关注《翠霞首席课》的“热点直击”和“操盘指南”~~~ -
趋势起航今天 07:03:06
沪指全天窄幅震荡,创业板指冲高回落。AI医疗概念持续走强,泓博医药(sz301230)、安必平(sh688393)、塞力医疗(sh603716)、美年健康(sz002044)、贝瑞基因(sz000710)等多股涨停。机器人(sz300024)概念股午后爆发,长盛轴承(sz300718)、新时达(sz002527)、泰豪科技(sh600590)、捷昌驱动(sh603583)、浙江荣泰(sh603119)等多股封板。腾讯云概念走强,数据港(sh603881)、云赛智联(sh600602)、东华软件(sz002065)、科华数据(sz002335)、世纪恒通(sz301428)等涨停。下跌方面,影视股集体调整,横店影视(sh603103)跌停,光线传媒(sz300251)、华策影视(sz300133)跌超10%。个股涨多跌少,沪深京三市超3600股飘红,今日成交1.97万亿。截止收盘沪指涨0.27%,深成指涨0.39%,创业板指涨0.51%。 -
趋势领涨今天 07:02:10
最后两天!!!最后两天!!!最后两天!!!【“惠“聚元宵】乐享头彩!即日起《潜伏擒牛》VIP课程全场六折,半年VIP课程低至881元/月;更有月课1088元/月,季课6折3088元/三个月。活动过后价格会提升,切勿错过!加入至尊擒牛VIP:享四大顶级服务 【1】购买VIP自动加入私密小直播间!【2】每周3-5只超短金股调入调出服务,适合实时看盘的投资者!【3】每日一份高端内部绝密文章:包含明日布局、热点版块、指数预判!【4】每月2~3只高端中线金股服务!VIP超短、中线个股均有涉足,让上班族也能跟上VIP节奏!赶紧戳,直接购买:【更多独家重磅股市观点请点击】【更多独家重磅股市观点请点击】 -
趋势领涨今天 07:01:33
周末关于微信与DeepSeep合作的消息又被吹上天,但今天DeepSeep概念出现了冲高回落,盘中板块指数大涨超过3%,但下午板块指数出现了翻绿,尾盘虽然回升了,但反弹力度已经大不如前,很多个股收出了较长的上影线,说明这个板块应该要开始调整了,取而代之的是前期连续调整的是人形机器人(sz300024)和CPO概念开始启动,说明市场热点还在科技股,只是前期大涨的个股,大家还是要注意风险,DeepSeep的行情虽然没有结束,但短期涨幅也确实太大了,等调整以后的机会吧。周末被吹爆的光线传媒(sz300251),开盘就快速上行,1分钟冲到涨停,但随后立马开板,股价快速跳水并翻绿,盘中砸到跌停,5分钟内近乎上演“天地板”,振幅达39.85%,半天量能超过前期全天量能,真的很考验大家的心脏!截止目前,《哪吒之魔童闹海》累计票房已超过119亿元,已经达到了巅峰,后期还能有多大空间呢?所以,今天光线传媒(sz300251)出现巨震是非常正常的,光线传媒(sz300251)股价巨震,带下了整个影视传媒板块,华策影视(sz300133)盘中跌幅一度超过11%,万达电影(sz002739)盘中跌幅超过8%。传媒板块的炒作,大概要告一段落了!今天内资继续大幅流出超过360亿元,重点是前三个交易日已经流出近1500亿元,今天继续大幅流出,这帮渣男每天除了砸盘还是砸盘!但好现象就是今天大盘继续放量,所以,大盘问题不大,先看3400点附近吧。有人说,现在个股跟大盘关系不大,这点我们还是非常赞同的,但大盘方向可以决定你的仓位,如果大盘要调整,你当然不能重仓,至于你持有什么个股,那就是你的事情!今天经典解盘:11:25 上午大盘在周末利好消息刺激下,两市大盘冲高回落,主要原因还是内资砸盘,内资近期一直在大幅流出,不知道这帮垃圾在怕什么?但今天大盘量能有所放大,这是一个好现象,所以,我们认为下午大盘还有反弹,整体可以考虑继续持股待涨。13:01 下午大盘应该会有回升,高点看早盘高点附近。 -
趋势领涨今天 07:01:25
内资砸盘 热点切换 大盘会大跌吗今天大盘在周末利好消息刺激下,两市大盘高开低走,开盘点位基本是全天最高点,沪市最低回踩3333点附近,这个点位有点像豹子底,随后两市大盘开始逐步回升,沪市最终突破了早盘的高点,以上涨报收,盘面上,两市个股跌多涨少,稀缺资源、短剧游戏、知识产权、钴金属、镍金属、Sora概念、锂矿等板块跌幅靠前;AI医疗、种业、人形机器人(sz300024)、CPO概念、粮食概念、铜缆高速连接、减速器、数据中心等板块涨幅靠前,两市近150只个股涨停,超过10只个股跌停,创业板走势与主板基本同步。A股有千年不变的规律,每次都想大干一场的时候,结果都你被市场大干了,周末利好原来是骗炮的!其实,每个周末出利好的时候,周一大盘基本都是高开低走的,主要原因就是量化收割和内资砸盘。虽然平时量化没有时间调整程序,但如果周末出现利好,量化是有足够的时间调整程序的,所以,以后大家千万要记住,周末出利好,周一高开就是逃跑的时候,这一点在A股市场屡试不爽!今天走势最强的是AI医疗概念,板块盘中涨幅一度超过7%,安必平(sh688393)“20cm”涨停,泓博医药(sz301230)、迪安诊断(sz300244)、思创医惠(sz300078)、祥生医疗(sh688358)、超研股份(sz301602)等多股盘中涨幅超过10%,DeepSeek使得AI技术下游应用场景不断拓展,在医疗健康领域,AI广泛应用于辅助诊断、个性化治疗、药物研发等方面,提升诊断的精度和治疗效果。AI医疗的规模持续增长,预期在2028年达到1598亿元,2022年—2028年间的年复合增长率为10.5%,刺激了这这个板块连续走强,但这个板块近期涨幅比较大了,大家追涨还需谨慎。 -
量化伏妖今天 07:00:50
【股票收评】:谨慎做多今天盘面呈现出高开振荡,盘中上下振荡幅度基本上还算正常,下午13点25分出现过一波快速回落,最低3333点,之后逐步回升,14点15分指数再次翻红。技术指标粘合线日线上行减缓,粘合线周线金叉第二周,价值陡峭日线微微拐头向下,价值陡峭周线继续上行,综合来看技术继续支撑大盘上行,只是今天指数上行的的幅度没有周末市场大多数人预期的好。板块方面AI制药,同步磁阻电机,教育,发电机概念,液冷概念,人形机器人(sz300024)等板块涨幅靠前;贵金属,能源金属,短剧互动游戏,文化传媒,AI语料,黄金概念等跌幅靠前。总体尾盘有惊无险的拉回指数,市场还是在多方控制中,谨慎做多符合目前市场氛围。