辽宁移动以存强算打造高效AI推理新范式
当前,以大模型为核心的人工智能技术正深度融入千行百业,智能问答、辅助决策、长文本分析、持续人机交互等场景需求持续升级。传统计算架构在应对复杂AI任务时,易出现响应延迟、处理中断等问题,难以充分释放AI应用价值,成为产业智能化升级的关键瓶颈。
直面行业痛点,辽宁移动主动创新突破,率先提出并落地“智存强算一体化解决方案”,彻底颠覆“以计算为中心”的传统架构思路,开创“以存储强化计算”的算力协同新范式。凭借领先的设计理念与扎实的落地成效,该方案在2025年“华彩杯”算力创新应用大赛全国总决赛中脱颖而出,斩获二等奖,创新价值与实践能力获得行业权威高度认可。
该方案核心突破在于“KV Cache(键值缓存)创新设计与智能调度机制”,实现高性能存储与先进计算集群深度一体化融合,为AI大模型搭建起高速、大容量的“近端记忆库”。在大模型推理过程中,KV Cache可智能缓存历史词元注意力键(Key)和值(Value)张量中间结果,避免词元重复计算,实现推理过程高效复用,从底层架构破解传统算力短板。
方案不仅实现技术革新,更带来显著经济效益与产业价值。通过存算协同优化、KV Cache分层管理与高效复用,全面提升算力资源利用效率。实测数据显示,在处理5万词元超长上下文场景中,方案可将首Token生成时间(TTFT)降低68%,输入吞吐量提升179%。依托前缀缓存复用能力,可助力企业客户大幅降低大模型推理服务综合成本,部分场景成本节省达50%至90%,为中小企业低成本、高效率部署高质量AI应用提供有力支撑,加速产业数字化、智能化转型步伐。
未来,辽宁移动将持续深耕算力网络创新,深化存算协同技术研发与场景落地,以更优质的算力服务赋能数字经济发展,为新型信息基础设施建设注入强劲动能。
校对:杨旭
责编:刘新
1、北国网所有内容的版权均属于作者或页面内声明的版权人。未经北国网的书面许可,任何其他个人或组织均不得以任何形式将北国网的各项资源转载、复制、编辑或发布使用于其他任何场合;不得把其中任何形式的资讯散发给其他方,不可把这些信息在其他的服务器或文档中作镜像复制或保存;不得修改或再使用北国网的任何资源。若有意转载本站信息资料,必需取得北国网书面授权。否则将追究其法律责任。
2、已经本网授权使用作品的,应在授权范围内使用,并注明“来源:北国网”。违反上述声明者,本网将追究其相关法律责任。
3、凡本网注明“来源:XXX(非北国网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。本网转载其他媒体之稿件,意在为公众提供免费服务。如稿件版权单位或个人不想在本网发布,可与本网联系,本网视情况可立即将其撤除。








