在全球金融科技领域,中国金融机构正以惊人的速度崛起,不仅在大模型专利创新上占据领头羊,更在智能金融服务的实际应用中展现出强大的实力。
这一趋势的背后,是算力需求的爆炸性增长,以及对高效、可靠、节能的数据中心基础设施的迫切需求。
近日,全球知名科技刊物《麻省理工技术评论》(MIT Technology Review)发布相关报告,“全球金融机构大模型领域专利创新排行榜”揭开面纱。在全球金融机构大模型专利创新领域,中国申请公开量达1909件,占比超75%。更令人欣喜的是,在这份榜单的TOP10,在全球顶尖的金融机构列表中,中国强势占据8席,展现出泱泱大国在全球科学技术领域的熠煜之姿。
蚂蚁集团、平安集团、工商银行、建设银行、中国银行、马上消费金融、微众银行、农业银行中国领先的金融机构于科技制高点布局的各类金融大模型,正如同浩瀚宇宙中点缀着的繁星,每一颗都闪烁着智慧的光芒。
同样浩瀚的,是高速流转于服务器之间的数据流量,更是全球秩序及格局博弈下中国科技自强不息的奋进力量。
据IDC数据,2023年下半年中国智算服务市场整体规模达114.1亿元,同比增长85.8%;全年来看,这一数据可达194.2亿元,同比增长72.5%。据预测,2022-2027年期间,我国智能算力规模的年均复合增长率将达到33.9%,远高于通用算力16.6%的增速。
在金融行业,央行2022年1月发布的《金融科技发展规划(2022-2025 年)》即明白准确地提出,“要抓住全球AI发展新机遇,以人为本全方面推进智能技术在金融领域深化应用”。
我们看到,圆融诙谐的机器人早已成为智慧网点的基本标配,西装革履的数字员工在屏幕上对答如流,智能客服、智能办公、智能研发、智能投研等多个业务场景上均有着大模型在金融业的合理探索及应用,金融机构的服务半径得以迅速扩大。作为新质生产力的典型缩影,金融智算在金融科技的强催化下登上时代舞台,正翩然起舞。
据工商银行2023年年报披露,其首个基于大模型的网点员工智能助手上线,提升网点效能,全年运营领域智能处理业务量3.2亿笔,比上年增长14%;农业银行ChatABC在智能问答场景已提供超过200万次问答服务,在辅助编码场景已编写超过8万行代码投入生产应用;建设银行智能客服工单生成每单平均节约客服上班时间15-20秒,可用率达82%,一致性达80%。
“方舟计划”、仓颉、轩辕、天镜一个个上古神学中耳熟能详的名字,身披大模型的“外衣”从遥远的神话走到了现实,成为金融垂直领域数字化转型的关键力量,推动探索虚拟现实与AIGC(人工智能)融合发展迈向新高度。
据不完全统计,现阶段各大金融机构在大模型应用上的情况如下表,能够准确的看出,头部金融机构在大模型各场景上已有较多投入和应用,他们依托于自有数据加速训练着对自己最合适的大模型。
同时,部分中等规模的金融机构,如城商行农商行等,也积极拥抱大模型,或采购GPU服务器部署开源大模型用于内部训练,或依托于大模型公司的算力能力快速应用落地相关服务场景。
总而言之,金融行业在大模型上的研究和布局上奋力向前,不断有金融机构加大投入力度。
前文提到,IDC预测近年来我国智算规模的年均复合增长率将远高于通算,与之相应的即是算力需求飞速增长与数据中心能耗急剧攀升冲突之下造成的“算力鸿沟”。
近日,华泰证券出具的一份研报引用了麦肯锡的数据在AI大模型相关算力需求的快速增加推动下,以能耗衡量的全球服务器规模将从2024年的70GW增长至2030年的390GW,年均复合增长率高达33%。研报同时指出,随着AI算力需求的持续增长,2030年全球数据中心用电量规模将达到约2.2万亿度电,是2022年的3.6倍。
行业资深的人偷偷表示,过去10年,基于低负载及高冗余的特性,一贯以来将业务连续性视为“命根子”的金融数据中心的PUE普遍都大于1.5,“这在某种程度上预示着IT设备每消耗1度电,就有额外的0.5度电用于散热等其他用途”。
而随着百亿级、千亿级金融AI大模型的孵化,过往老旧机房确已难堪负荷,这一条“算力鸿沟”,在AI+金融的时代背景下显得愈发渊深难测。
跨越这条鸿沟,一方面需应对全球气候系统变暖趋势下数据中心面临的严峻“烤”验,一方面需应对数据中心各部件、整机的高密功耗带来的散热刚需,一同推动金融智算基础设施加快建设步伐。
现阶段,我国数据中心的散热方式仍以风冷为主,以高可靠、高安全著称的金融数据中心尤是。我们需注意到,部分用户采购风冷GPU服务器后,由于单台设备功率高达6-10.5kW,因此在现有机房中,单机柜只能放置1~2台GPU服务器。此方案可以暂时满足GPU服务器的散热需求,但是综合看来,风冷散热模式下,GPU处于较高运行温度下,也会导致工作速度减缓、器件提前老化的情况,此时昂贵的GPU发挥不出其极致的算力,生产力打折,着实可惜。
在算力激增及高密高热的双重推动下,液冷成为智算数据中心主流的温控方式。据财信证券研报中引用的行业多个方面数据显示,2025-2028年液冷技术的渗透率预计有望达到30%。
液冷,是一种采用液体来进行电子设备冷却的散热技术,可明显提高数据中心的散热效率。目前,液冷技术最重要的包含冷板式、浸没式和喷淋式三种类型,并以前两者为应用主流。
根据行业研报,以华东地区数据中心建设情况为例,基于一定的测算前提下,冷板式液冷方案的TCO甚至Capex已经低于风冷,浸没式液冷方案的TCO也将在运行五年左右之后出现低于风冷方案的拐点。
囿于成本的缘故,现阶段冷板式液冷相较浸没式液冷而言,技术更为成熟、应用更广泛,在改造及建设成本,安全可靠性,后期运营维护方面均具备显著优势。按照服务器出货量口径统计,2023H1我国冷板式液冷服务器比例为90%左右,浸没式液冷渗透率为10%。
过去几年,算力设备厂商一站式整体交付算力设备+液冷基础设施,优势是交叉配合界面少、整体交付速度快、后期运维一家负责,但算力设备与液冷基础设施强耦合后,劣势也很明显:
② 算力设备厂商集成的液冷基础设施,在系统冗余性、在线维护性、服务能力上较难达到用户需求;
③ 液冷基础设施溢价高,成本甚至超过30万元/柜,远高于解耦型冷板式液冷。
如同所有居于供给侧、在AI+金融市场钻研鏖战的科技厂商一般,科华数据也秉持着行业领先者的责任感,乘着这股浩荡东风,推出「解耦型冷板式液冷数据中心解决方案」,致力于共同助力金融机构释放算力潜能,为金融智算筑建坚实底座。
经过充分的市场调查与研究和案例应用,科华数据冷板式液冷数据中心解决方案凝聚了「6大优势」。
科华数据冷板式液冷解决方案,可解耦国内主流品牌液冷算力服务器,解耦点在液冷服务器侧或液冷整机柜侧,目前已交付多个项目,并安全稳定运行,实现了客户对于液冷数据中心兼容解耦的部署架构。
基于丰富的项目经验,实现了建设方案、系统架构、核心产品的标准化,并推出了一站式交付的液冷算力POD解决方案,既优化了方案论证、产品选型阶段的复杂工作,又提升了产品质量、交付速度、确保系统稳定运行,维护管理更便捷易用,运营效率得以大幅提升。
作为液冷系统中的核心产品,科华数据液冷CDU采用N+1冗余架构设计,并可放置在精密空调间,确保一次侧冷却水不进入算力机房内。CDU内的循环水泵采用节能型变频双泵冗余设计,单台水泵即可满足100%散热需求,水泵和过滤器均按满足在线维护要求,实现不停机就可以更换维护。
基于智能微模块的丰富经验,科华数据液冷系统将预制化底座、二次侧管路系统、机柜(含manifold)、通道封闭、智能小母线、风补列间空调、液冷微模块监测系统、一次侧水力模块等进行预制化设计生产,现场快速交付。
05 交付安全稳定,基于正向设计理念,通过BIM+CFD仿真模拟及液冷测试平台严格验证
项目正式进场后,科华基于BIM三维建模技术,实现1:1数字孪生,模拟每一个设备、每一段管路和阀门的位置,做到所设即所得,减少现场管路交叉干涉,确保交付质量和速度。通过CFD流体仿真技术,模拟管路流体路径和机房内的气流组织,一直在优化设备布局和设置参数,确保智算机房高质量运行。同时,每一套液冷系统出厂前,均会在科华液冷整系统测试平台中来测试,验证可靠性和功能参数,确保方案质量和系统长期稳定运行。
06 项目经验比较丰富,成功交付多个液冷数据中心项目,全生命周期服务值得用户信赖
得益于高效散热、节能减排、安全可靠等优势,科华冷板式液冷案例覆盖了通信、互联网、高校、金融等多个行业用户,如河北承德智算中心、中国移动苏州数据中心、厦门大学嘉庚智算中心等。
科华数据冷板式液冷解决方案可囊括从通用算力服务器20kW/柜到智算算力服务器高密度50kW/柜,甚至科研场景的70~120kW/柜,为各行业高密度智算中心打造安全可靠、绿色低碳的液冷数据中心,赋能千行百业。在推动新技术发展的同时,科华数据也一直在优化整体服务流程,使每一次交付都得到客户的高度认可。
如,于「通信行业长三角地区重要液冷数据中心项目」上,科华数据冷板式液冷解决方案助力项目运行指标大幅提升
从通信,到金融,行业天然自带壁垒又何妨,高可靠的产品技术是其互通的媒介。
当金融机构行至全面拥抱大模型、战略布局AI算力的风口,技术先行者已在此处,等着共同攀越那峥嵘山岗。
人工智能先驱之一,穆斯塔法苏莱曼在其出版的《大浪将至》中提到,“技术是一种创新集群,马上就要来临的浪潮是像寒武纪大爆发一样的进化爆发,将涌现出成千上万种新应用,这些技术中的每一项都与其他技术相互交叉、相互加强、相互完善。”
AI赋能智算行业蒸蒸日上,创新技术在金融行业的各类场景中不断应用、验证、迭代,算力基座也正朝着更可靠、更可用、更节能、更智慧的方向演进。
久经检验的金融数字化转型合作伙伴科华数据,正融合30余年电力电子核心技术及十数年数据中心建设运维经验,深刻洞察金融应用侧在新建及改造数据中心的能耗痛点,以更可靠、更解耦的液冷解决方案,助力更多金融机构实现更高的算力密度、节省更多的机柜空间,推动底层算力潜能的进一步释放。
星图数据发布2024年双十一销售战报:2024年双十一大促期间,全网交易总额达14418亿元
格雷希尔GripSeal-AMTS展会精彩回顾,快速连接器技术革新未来可期
LRQA劳盛领导力系列“绿色智能——构建ESG与数字化创新的未来”峰会在上海成功召开
2024双十一苹果手机几号买最便宜,京东淘宝天猫双11苹果iphone16 pro降价一览
华纳云双11超值购,香港CN2云服务器4H16G5M季付499元,续费同价
双十一几号买东西最便宜,哪天何时最划算?2024年淘宝天猫京东双11第二波红包口令一览
2024年双十一何时开始几号买手机最便宜?双11活动开始到结束优惠满减攻略及详细时间表
- 2024-11-17过滤器-查找出来的成果-乐久网络精选商家
- 2024-11-17衡水市加快建设京津冀科学技术创新支点城市
- 2024-11-17肖冰:争做榜样岗兵、事务精兵、岗位标兵
- 2024-11-17网络科技有限公司
- 2024-11-17今天申购:华原股份
- 2024-11-17连云港久盛电力辅机有限公司