范式智能与睿思智联开源生产级AI部署平台模域ModelSphere

范式智能技术集团有限公司与北京睿思智联科技有限公司联合宣布，一站式生产级AI部署平台“模域”（ModelSphere）正式上线，面向企业用户免费开源，并已在GitHub开放。

10月16日，北京– 范式智能技术集团有限公司（股票代码：6682.HK）与北京睿思智联科技有限公司共同推出该平台。模域将算力管理、模型部署和运行优化整合于统一平台，旨在降低企业部署与运维门槛，帮助企业把算力转化为安全、稳定、可用于实际业务的AI服务。

Github地址： https://github.com/modelsphere/modelsphere

随着大模型进入规模化商业阶段，企业在算力统筹、模型部署与效能优化中普遍面临资源利用率低、芯片生态割裂、部署门槛高、生产环境调优难等问题。模域试图将这些工作整合为统一的部署与管理流程，减少企业在底层系统适配、资源调度和日常运维上的重复投入，使企业无需深入掌握驱动编译与硬件适配等复杂工作，即可将各类开源大模型嵌入核心业务流程。

• 简化部署，保障模型服务稳定运行：模域提供图形化操作面板和预置部署能力，减少环境配置代码编写，帮助开发者快速为大模型搭建推理服务，并简化不同芯片集群的部署。平台内置自动弹性扩缩容、PD分离部署、三级KV缓存、高可用负载均衡及服务断流自动续写等企业级能力，支持模型服务在生产环境中稳定运行。

• 持续自动化调优，提高模型运行效率：平台内置AutoTune智能模型排期策略，以及结合硬件加速能力的自适应负载均衡调度，优化模型处理请求的能力和首次响应速度，系统极限吞吐效率较基准提升约285%，性能跃升至原来的4倍。

• 统一管理多种芯片，减少重复适配：平台融合EngineX推理引擎，支持并针对多种算力芯片进行深度调优，可统一和混合调度华为昇腾、天数智芯、摩尔线程、海光DCU等国产算力资源，用户无需为不同芯片重写底层逻辑代码。

• 持续优化适配主流模型，加快部署应用：模域团队持续跟进开源社区迭代，已适配优化DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM等主流模型，支持在模型发布后快速部署并将性能调优至生产环境，帮助企业将新模型落地实际业务。

在技术层面，模域与vLLM、SGLang等推理引擎互相配合：推理引擎负责提升单台服务器的计算效率，模域则负责集群架构级纳管和优化，包括负载和缓存感知的请求路由、统一的KV缓存池、基于服务质量的自动化扩缩容、服务断流自动续写、基于线上数据的自动化性能调优、运行监控及服务管理等，保证生产环境下系统的高性能和高可用。

模域采用宽松的Apache 2.0协议全面开源，将大模型部署与优化的工程能力向更多企业和开发者开放，同时汇聚产业力量，持续完善对不同芯片和模型的支持，减少硬件适配障碍，降低大模型应用门槛，帮助企业用好已有算力，释放异构算力的商业潜能。

本文由范式提供，量子位获授权转载，观点归原作者所有。

WAIC 2026收官｜范式大会亮点集锦，见证AI 2.0从技术突破走向产业实践

范式与华夏金融订立服务器售后回租安排 盘活算力资产 赋能业务长效发展

IDC评估中国AI算力管理平台:范式智能四项维度获满分，综合评分第一

范式成为《中国AI算力管理平台技术能力评估，2026》综合评分位列第一的厂商。