近日，浙江联通联合浙江省疾控中心、联通(浙江)产业互联网有限公司、华为等生态合作伙伴，推出首例基于分布式边云协同推理架构的多模态智能体应用。项目聚焦AI敏感数据推理应用需求，依托浙江联通智算广域网，通过打通浙江省疾控中心杭州推理节点与宁波联通算力集群节点，成功完成智能体方案的验证，为医疗疾控行业及产业智能化转型发展探索了新路径、提供了新思路。
随着数字经济时代全面开启，算力正为各行各业的数字化转型注入新动能。浙江省疾控中心聚焦“智能辅助决策”，融合大模型技术实现多任务协同，在智库问答、智能问数的基础上进行智能化能力扩展，进一步结合流行学调查的实践难点与卡点，实现场景化的应用效果，为应急处置决策、应急指挥调度、专家会商研判等应用场景。同时，为解决企业私有数据安全和园区内部无法规模部署算力服务器，整体承载算力有限等问题。浙江联通联合华为打造基于分布式边云协同推理解决方案，提供算网一体化服务，完美解决了企业在数据安全与算力扩容方面的核心痛点。
分布式边云协同推理算网一体服务架构
边云协同推理，数据安全不出园区：为了匹配推理算力快速增长的需求，企业优化推理模型部署，多个模型首尾层部署在企业侧算力上，模型中间层部署在联通智算中心算力上，本地算力和云端算力通过智算广域网传输模型中间层交互数据，保护企业原始数据不出园区，保障数据隐私安全。分布式推理模式一方面满足企业数据不出私域的诉求，另一方面企业可以灵活租赁运营商的推理算力资源来应对推理需求的变化。
RDMA无损传输，模型拉远训练推理效率不下降：智算业务传输采用RDMA协议，协议本身对丢包率的敏感度提升了1个数量级，千分之一的丢包导致模型训练效率下降50%，通过部署智算网关设备支持深度识别RDMA报文，现网验证DeepSeek跨200公里拉远推理算效损失小于5%，满足企业拉远推理算效不下降的要求。
浙江联通建设发展部总经理汤滢琪表示，未来浙江联通将持续聚焦集团“连接、算力、服务、安全”四大核心赛道，深化算力智联网建设，加速推动以算力和数据为核心的新质生产力发展，赋能千行百业数字化转型升级。
明辉优配提示：文章来自网络，不代表本站观点。
