2025超算生态发展论坛,珑京科技提出AI落地新范式
11月18日-20日,CDCE国际数据中心及云计算展在上海新国际博览中心举办。

展会的精彩远不止于展台,更体现在精心策划的同期论坛阵容。
其中2025超算生态发展论坛于11月19日举行,上海超级计算中心主任李根国,分享了关于算力作为新质生产力底座的演讲。

此次论坛,以"算力筑基,数智赋业"为主题,珑京科技AI产品总监李伟也受邀参加。

在算力奔涌、大模型迭出的今天,AI到底如何真正“落地”?
关于这个问题,在2025超算生态发展论坛上,
珑京科技AI产品总监李伟的观点,点燃了论坛的气氛,
即AI应用,才是这场技术变革真正实现商业价值的载体。

01
AI不再只是技术
而是“生产力”与“体验”的双轮驱动
演讲现场,李伟把当前的AI应用划分为两大场景。
>> 生产力场景:
AI 提供效率价值,辅助人完成工作,为企业降本增效。比如自动生成文档、辅助写代码、智能报表生成。
>> 泛娱乐场景:
AI 提供体验价值,提升用户与虚拟世界的交互体验。比如与游戏NPC自然对话、情感陪伴型聊天机器人。
大模型的进化方向,正是AI Agent(智能体),一个能像人一样规划、反思、使用工具的程序。
而行业智能化的未来,正走在一条自动驾驶的路上。
02
从“暴力堆显存”到“精细优化”
推理效率实现跨越
算力成本高、故障多、维护难,是很多企业在部署大模型时的共同痛点。
李伟指出,趋势正在转变:
>> 小模型替代大模型,不再依赖“暴力堆显存”;
>> 模型框架与算子优化,显著降低显存需求;
>> 异构推理技术,实现计算资源的大幅削减。
珑京信息科技,在推理优化上做了三件事:
多并发支持:从底层架构到资源调度,全方位提升吞吐性能;
推理延迟降低:通过核心算子优化,显著降低端到端延迟;
KV Cache复用:支持更大并发,提升整体效率。
03
自研RAG体系
突破大模型的能力边界
在现场,李伟一一列举了传统RAG的痛点,
知识解析不充分、分割不准确、查询理解不到位、生成质量不可控......
珑京科技的解决方案是基于纯血国产昇腾/鲲鹏AI infra+自研RAG体系,
这不仅仅是技术升级,更是对可信生成的系统性保障。
04
以存铸算
推理加速的“黑科技”
在算力与存储的协同上,珑京科技的李伟在现场交出了一组令人瞩目的数据。
在30K+2K 10并发场景下,对比纯算力设备的环境:
>> TTFT时延降低95%
>> TPS吞吐提升19倍
李伟表示,并发度越高,推理算力吞吐性能提升越明显,这正是“以存铸算”推理加速方案的价值所在。
在论坛现场,李伟将珑京科技的落地路径总结为三个阶段:
>> 前期:降本增效,打造“标品”;
>> 中期:行为监测+内容审计,切入医疗、金融、军队、政企;
>> 后期:数据治理→ 数据资产→ 持续订阅收入。
把算力封装成“标品”,30分钟完成昇腾一体机上架清单。
李伟认为,“标品越多,场景越多,硬件越多,成本越低——这是一个正向飞轮。”
05
玲珑数智大模型应用平台
让企业读懂大模型用好大模型
面向广大企业对大模型“不了解、不会用、用不起”的痛点,玲珑数智推出“玲珑数智大模型应用平台”。
帮助企业:
理解大模型是什么、能做什么;
快速搭建符合自身需求的智能应用;
实现降本增效、数据资产化与业务智能化升级。
平台支持多种主流模型(如LLaMA、Qwen、DeepSeek等),具备多模态解析、语义分割、意图理解、混合召回、思维链推理等核心能力,确保生成内容准确、可控、可溯源。
目前已成功落地多个典型场景:
1、某财政局“内容审核”系统,实现公文自动生成、语义理解与动态图表插入;
2、某律所“合同审查”平台,通过大模型识别条款、比对模板,输出审核结果;
3、南京某水厂、陕西某部队等单位,基于私有化部署实现高效数据治理与智能决策。
写在最后,
李伟的演讲引来现场的一片掌声,这掌声,不仅是为珑京科技在AI Agent领域展现出的技术深度与商业清晰度,
更是为那句“山不向我走来,我便向山走去”所传递出的决心与行动力,
论坛结束后,许多与会者仍围在李伟身边,继续探讨着AI Agent在自己行业中的应用可能。
在算力、模型、算法喧嚣的时代,很多人都在等待,等待技术更成熟、等待成本再降低、等待着下一个时刻。
而珑京团队选择了一条更艰难,却更坚实的路,主动走向那座名为“行业真需求”的群山。
对于珑京而言,掌声是认可,更是前行的号角,我们正在做的,就是把算力变成‘开箱即用’的标品,
让AI不再高高在上,而是成为每个行业、每个岗位的“智能同事”,
“标品→场景→硬件→成本优化”的飞轮已经开始旋转,加速驶向2026年的目标。
