AI算力加速数据中心变革升级!2024年数据中心热点技术展望

首页    算电协同    AI算力加速数据中心变革升级!2024年数据中心热点技术展望

在数字经济的推动下,越来越多的企业开启了数字化转型之旅,数据中心行业发展良好,市场规模不断扩大。数据中心作为数字经济的主要载体和算力底座,2024年将继续保持增长态势。根据市场研究公司Dell'Oro Group的最新报告,全球数据中心资本支出预计将在2024年反弹至11%的增长率,因为部分超大规模云服务提供商将重返扩张周期,并且企业市场的支出冻结也将迎来缓和。

那么,2024年数据中心将会有哪些重点技术趋势?以下,是对2024年数据中心发展趋势和热点技术的展望。

 

1生成式AI对数据中心算力提出更高要求

2024年,生成式AI仍旧是各大企业关注的热点,并将产生更多的生成式AI项目。随着生成式AI项目的不断落地,数据中心将面临更大的算力挑战。为此,数据中心将迎来重大变革。在提升算力层面上,数据中心在2024年将会围绕以下热点进行重点突破。

 

异构计算

众所周知,生成式AI对数据中心算力提出了更高的要求,传统的以CPU为核心的计算方式显然已经无法满足人工智能对于算力的需求,CPU+GPU/FPGA/ASIC等异构式架构成为2024年以及未来数据中心的主要算力构成方式。

 

当然,在构建异构计算时,不仅仅要重点关注底层芯片,而且还要注意应用的开发方式,要软硬件并行,两条腿走路。同时,由于异构计算是将CPU、DSP、GPU、ASIC、FPGA等不同制程架构、不同指令集、不同功能的计算单元,组合起来形成一个混合的计算系统。在这一生态体系中,有着不同的厂商参与,彼此之间既是竞争关系,又是合作关系,只有通过多方的合作,才能不断优化算力架构,提高计算效率。

 

HBM高带宽内存

生成式AI不但对CPU、GPU性能提出了更高的需求,也对存储性能的要求越来越高。传统的内存显然已经无法满足AI对于存储性能的要求,HBM(高带宽内存)成为2024年以及未来数据中心的技术趋势之一。

 

HBM通过利用3D芯片堆叠技术将多个DRAM芯片堆叠在一起,从而提供更大的存储容量。随着AI技术的发展,GPU的功能越来越强,需要更加快速地从内存中访问数据,以此来缩短应用处理的时间。特别是在生成式AI出现之后,大型语言模型 (LLM)需要重复访问数十亿甚至数万亿个参数,如此庞大且频繁的数据处理,往往需要数小时甚至数天的时间,这显然无法满足要求。于是,传输速度也成了HBM的核心参数。

 

目前,HBM大都采用了标准化设计:HBM 存储器堆栈通过微凸块连接到 HBM 堆栈中的硅通孔(TSV 或连接孔),并与放置在基础封装层上的中间件相连,中间件上还安装有处理器,提供 HBM 到处理器的连接。与此同时,HBM通过控制芯片对多个DRAM芯片进行控制,使它们能够同时读取或写入数据,从而提高了存储带宽和数据处理能力。

 

800G网络技术

网络性能是决定AI集群算力效率的核心要素。由于AI芯片对互联带宽的需要非常大,如H100互联达到了900GB(1B=8bps),加速了网络架构的变革,800G网络成为2024年数据中心的热点。

 

近年来,400G的快速部署表明业界能够快速提供最新的解决方案,并且随着服务提供商扩展和升级其数据中心,服务提供商已经准备好在2024年快速转向800G。为此,各大厂商也纷纷发布800G的网络产品和解决方案。

 

800G交换机端口、光模块和DAC的推出,为服务提供商提供了一个无需等待800GE标准即可升级网络性能的重要机会。IEEE 802.3df 800G和1.6T任务组的工作以及行业技术的发展将确保未来升级的稳健路线图。具有800G端口的25.6T交换机的推出为数据中心运营商利用网络创造了新的机会,能够显著提高性能,同时降低复杂性、成本和功耗。

 

 

2节能环保推动液冷数据中心建设

数据中心的能耗问题一直备受关注,在“双碳”目标面前,如何降低数据中心能耗,也将成为数据中心运营者关注的重点。IDC指出,在国家“双碳战略”和东数西算的不断要求下,数据中心需要向绿色低碳迈进。与此同时,以人工智能、5G为代表技术热潮的兴起,也给数据中心带来资源使用和性能提升等挑战。

 

在政策的推动下,液冷数据中心将会是2024年以及未来很长一段时间内用户关注的重点技术。作为突破散热瓶颈,有效降低数据中心PUE关键技术,液冷技术在2023年进展迅速。众所周知,数据中心液冷散热主要有冷板式液冷和浸没式液冷两大技术。相比较浸没式液冷技术,冷板式液冷由于相对简单,因此更加容易部署。

 

当然,在液冷数据中心的建设上,目前仍旧存在很多问题,比较缺乏业界统一的标准、建设成本过高等。不过,随着技术的不断成熟,标准的不断完善,液冷数据中心将会越来越受用户青睐。

 

3多云战略催生更多数据中心安全问题

数据中心的安全问题是一个老生常谈的话题。不过,随着2024年数据量的爆炸式增长,企业业务形态的变化,以及越来越多的企业部署多云战略,数据保护的难度正在不断加大,数据中心的安全问题将会越来越受重视。

 

面对各种网络攻击,数据中心运营者不但要建立健全数据中心的物理安全、网络安全等多道屏障,以更高规格的解决方案确保数据、业务安全。并且还要强化数据的备份保护,确保在受到攻击之后能够快速恢复数据,确保业务的正常运行。

 

与此同时,企业还要强化员工教育,防止人为错误导致的数据中心中断事故和攻击事件发生。

 

4边缘计算推动小型数据中心建设

边缘计算的快速发展加速了边缘计算中心的建设步伐。据Gartner预测,到2025年将有75%的数据产生在数据中心和云之外并在边缘侧进行处理。据STL Partners的预测,到2030年,全球边缘计算潜在市场规模将增长到4450亿美元,10年复合增长率高达48%。

 

边缘计算市场成长空间广阔,边缘服务器市场潜力也不容小觑。目前,包括联想、戴尔、新华三等国内外服务器厂商,均开始全面布局边缘计算市场,并推出了面向边缘数据中心的不同产品和解决方案,以此来满足不同企业的需求。据Gartner预测,到2025年,全球服务器市场规模将达到1350亿美元,边缘计算设备市场将达到370亿美元。

 

随着技术的日益成熟,边缘业务应用将更加多样化,越来越多的服务器厂商将面向不同的行业和应用,推出更加多样化的产品,将进一步推动边缘数据中心的高速发展。

 

5人工智能驱动数据中心迈入智能化

利用人工智能构建智能化数据中心,简化数据中心的运维与管理,将成为2024年以及未来数据中心的主流趋势。

 

未来的数据发展必将走向软件定义,随着数据中心呈现复杂化,人工处理的精力和能力都有限。如果通过人工智能利用其学习能力,对以往管理数据进行智能分析,不但能够实现数据中心的运营自动化、改进资源管理以及提高能源,还可以提供洞察,改善工作负载管理和容量规划等运营决策。

 

除此之外,人工智能技术还能够通过计算PUE值,根据PUE值反推哪些因素影响数据中心的能耗,再进行针对性地优化,就能够达到降低能耗的目的,提升数据中心运行效率。

 

可以说,随着在数据中心应用人工智能,能够实现更高效、更安全、更稳定的运营目标,降低人为干预的风险和成本,提高数据中心的整体效率。

来源:51CTO

2024年1月4日 16:32
浏览量:0

免责申明:凡注明“来源:XXX”的消息均转载自其它媒体,版权归原媒体及其作者所有。转载目的在于充分传递行业资讯,并不代表本会赞同其观点和对其真实性负责。如有侵权,请联系我们删稿18811449116。

  • 六月招中标月报丨招标80.85GWh;中标34.60GWh、锂电储能EPC中标均价1.019元/Wh;储能系统0.764元/Wh

    据中国电池工业协会储能分会及时代储能网不完全统计,本月(6月1日-30日)储能招中标项目共177个,其中,招标项目100个,16.41GW/80.85GWh;中标项目77个,11.88GW/34.60GWh。锂电储能EPC中标均价1.019元/Wh,下降约0.017元/Wh,环比降幅约1.64%;储能系统设备采购中标均价0.764元/Wh,上涨约0.125元/Wh,环比涨幅约19.56%;6月份混合储能招标项目达到15个,规模6250.178MWh,中标14个,规模4192.83MWh;

    0 2026-07-08
  • 八大论坛席位开放!2026新型储能发展大会(INES2026)演讲嘉宾正式征集

    当前我国新型储能产业正进入规模化落地与技术迭代的关键窗口期,长时储能、AI智能运维、构网型控制等前沿方向已上升为产业核心议题。为汇聚全行业智慧,打通产学研用协同通道,2026新型储能发展大会(INES2026)以“共建储能生态、智创能源未来“为主题,定于10月29日-30日在江苏常州举办。

    0 2026-07-08
  • 陈立泉、贲德两位院士荣获2025年度国家最高科学技术奖

    7月8日,备受瞩目的2025年度国家最高科学技术奖在北京人民大会堂揭晓。中国科学院物理研究所陈立泉院士、中国电子科技集团有限公司贲德院士,共同获得这一代表中国科技界崇高荣誉的奖项。

    2 2026-07-08
  • 国家电投首个抽蓄电站开工!

    6月30日,国家电投五凌电力湖南桃源木旺溪抽水蓄能电站主体工程正式开工。

    16 2026-07-07
  • 中国锂电池隔膜龙头企业恩捷股份在匈牙利被勒令暂停生产

    近日,据路透社等多家外媒报道,中国锂电池隔膜龙头企业恩捷股份(Semcorp Group)在匈牙利的德布勒森(Debrecen)的工厂已被当地环保监管部门勒令立即暂停生产活动。

    107 2026-07-06
  • 聚力飞轮储能场景应用!元旅控股携手武汉大全能源开拓台区储能蓝海市场

    2026年7月2日,元旅(北京)控股集团有限公司与武汉大全能源技术股份有限公司在元旅控股合肥运营中心举行技术商务会议。双方围绕飞轮储能在台区储能场景应用开发及合资公司设立等议题展开深度交流,共谋新型储能领域高质量发展新路径。

    18 2026-07-06
  • 孚能科技携手南京复创启动欧盟电池护照项目

    2026年7月1日,孚能科技与南京复创联合召开的电池护照项目启动会顺利举行,双方联合项目团队近百人参会。孚能科技综合管理中心、研究院、IT等部门负责人,南京复创CEO郭洪岩、副总裁王硕、技术总监明宣帆、AI研发部长刘勇辉等出席会议。

    22 2026-07-06
  • 国电南瑞3.08GWh储能电芯框采成交候选人公示

    7月2日,国电南瑞2026年储能电芯框架采购评审工作结束,成交候选人名单公示。根据公示结果,厦门海辰储能科技股份有限公司、楚能新能源股份有限公司、深圳鹏程无限新能源有限公司三家企业成为磷酸铁锂电芯包1的推荐成交候选人。

    19 2026-07-06
  • 山西最大电网侧独立储能电站一次性并网成功!易储数智激活华北绿能新引擎

    7月6日,易储数智能源集团再传捷报:由集团投建的山西大同新荣合邦400MW/800MWh独立共享储能电站项目成功实现一次性并网!刷新了山西省电网侧独立储能电站最大容量一次性并网记录,有效提升区域新能源消纳与电网调峰调频能力,深度赋能大同向绿新生。

    20 2026-07-06
  • 联盛新能源携手周大福创建落地芬兰储能项目 开启欧洲绿色储能协同新征程

    近日,全球新能源解决方案服务商联盛新能源集团与港交所上市企业周大福创建有限公司(00659.HK)正式达成合作,携手布局欧洲电池储能赛道,合力推进区域能源低碳转型。双方首个标杆储能电站选址芬兰,装机规模达30兆瓦/65.2兆瓦时,计划于2026年第四季度并网投运。周大福创建持股75%,主要负责资金投入、战略规划与风险管控,充分发挥周大福创建在环球市场的专业优势;联盛新能源持股25%,作为项目核心技术落地主体,主导项目开发、方案设计、工程施工及长期运维,保障项目合规、高效投产运营。

    16 2026-07-06

24小时热门新闻