您的当前位置:首页 > 娱乐 > 华为:AI推理创新技术UCM将于今年9月正式开源 正文
时间:2025-08-24 04:08:42 来源:网络整理 编辑:娱乐
新浪科技讯 8月12日晚间消息,在2025金融AI推理应用落地与发展论坛上,中国银联执行副总裁涂晓军、华为数字金融军团CEO曹冲出席并发表致辞。论坛上,华为公司副总裁、数据存储产品线总裁周跃峰发布AI
新浪科技讯 8月12日晚间消息,推理在2025金融AI推理应用落地与发展论坛上,创新中国银联执行副总裁涂晓军、技术华为数字金融军团CEO曹冲出席并发表致辞。于今论坛上,年月华为公司副总裁、正式数据存储产品线总裁周跃峰发布AI推理创新技术——UCM推理记忆数据管理器,开源旨在推动AI推理体验升级,推理提升推理性价比,创新加速AI商业正循环。技术同时,于今华为携手中国银联率先在金融典型场景开展UCM技术试点应用,年月并联合发布智慧金融AI推理加速方案应用成果。正式
周跃峰在论坛上强调:“AI时代,开源模型训练、推理推理效率与体验的量纲都以Token数为表征,Token经济已经到来”。为保障流畅的推理体验,企业需持续加大算力投入,但如何在推理效率与成本之间找到最佳平衡点,成为了全行业亟待解决的重要课题。
为此,华为推出UCM推理记忆数据管理器,包括对接不同引擎与算力的推理引擎插件(Connector)、支持多级KV Cache管理及加速算法的功能库(Accelerator)、高性能KV Cache存取适配器(Adapter)三大组件,通过推理框架、算力、存储三层协同,实现AI推理“更优体验、更低成本”。
在与中国银联的联合创新技术试点中,UCM的技术价值得到验证。在中国银联“客户之声”业务场景下,借助UCM技术及工程化手段,大模型推理速度提升125倍,仅需10秒即可精准识别客户高频问题,促进服务质量提升。未来,中国银联将依托国家人工智能应用中试基地,联合华为等生态伙伴共建“AI+金融”示范应用,推动技术成果从“实验室验证”走向“规模化应用”。
论坛现场,华为正式公布了UCM开源计划。UCM通过开放统一的南北向接口,可适配多类型推理引擎框架、算力及存储系统。今年9月,UCM将正式开源,后续逐步贡献给业界主流推理引擎社区,携手全产业共同推动AI推理生态的繁荣发展。
责任编辑:何俊熹
[七月浅谈] 索取、奉献?2025-08-24 04:05
阿德巴约:10点半训练我8点半就到 C罗已经在游泳2025-08-24 03:32
欧冠生死战!数据:曼城主场无惧皇马 或22025-08-24 03:26
那不勒斯嫌加纳乔太贵 求购多特边锋阿德耶米2025-08-24 03:18
【七月浅谈】生命的价值2025-08-24 03:02
切尔西再遇豪门杀手布莱顿 数据暗示或遭双杀2025-08-24 02:58
有心无力!数据示曼联足总杯90分钟难分胜负2025-08-24 02:53
文班亚马观战巴黎4比2曼城 获赠印马刺字样球衣2025-08-24 02:52
三问今年“暴力梅” 下周梅雨或有变化2025-08-24 02:52
罗马诺:安东尼租借至贝蒂斯 合约期限为6个月2025-08-24 02:06
《海贼王》真人剧演员力挺争议选角:尾田定的演员!2025-08-24 03:51
AC米兰将再次报价希门尼斯 已经与球员谈妥合同2025-08-24 03:49
强强对话变菜鸡互啄?数据:热刺无缘"三杀"曼联2025-08-24 03:47
范戴克单场132次成功传球 创本赛季英超新纪录2025-08-24 03:44
陶文明:急跳沟渠勇救八旬老人2025-08-24 03:06
利物浦后悔了吗?玛玛达面对巴萨被狂灌7球2025-08-24 02:03
实至名归!卡拉菲奥里当选阿森纳本轮队内最佳2025-08-24 01:59
利物浦后悔了吗?玛玛达面对巴萨被狂灌7球2025-08-24 01:37
国家市场监管总局:“十四五”以来我国企业净增1999.9万户2025-08-24 01:32
曼联将外租安东尼+拉什福德 加纳乔也可能离队2025-08-24 01:25