范式智能联合睿思智联推出:开源一站式生产级 AI 部署平台 “模域ModelSphere”

网络
  • 厂商供稿
  • 2026-10-16 15:38

FS202610161248481206568497.jpg

10月16日,北京- 范式智能技术集团有限公司(“范式” 或“集团”,股票代码:6682.HK)联合北京睿思智联科技有限公司(“睿思智联”)宣布,一站式生产级 AI 部署平台“模域” (ModelSphere) 正式上线。该平台面向企业用户免费开源,将算力管理、模型部署和运行优化整合在统一平台,帮助企业降低部署与运维门槛,更高效地将算力转化为安全、稳定、可用于实际业务的AI服务。平台已在 GitHub 开源。

FS202610161248491056087110.jpg

Github 地址: https://github.com/modelsphere/modelsphere

随着大模型进入规模化商业阶段,企业在算力统筹、模型部署与效能优化中,普遍面临资源利用率低、芯片生态割裂、部署门槛高、生产环境调优难等问题。模域致力于将这些工作整合为 统一的部署与管理流程,减少企业在底层系统适配、资源调度和日常运维上的重复投入,让企业无需深度掌握驱动编译与硬件适配等复杂工作,即可将各类开源大模型嵌入核心业务流程, 让技术团队更专注应用开发和业务需求。

模域具备四大核心优势:

1. 简化部署,保障模型服务稳定运行:模域提供图形化操作面板和预置部署能力,减少环境配置代码的偏写,帮助开发者快速大模型搭建推理服务,并简化不同芯片集群的。平台内置自动弹性扩缩容、PD 分离部署、三级 KV 缓存、高可用负载均衡及服务断流自动续写等企业级能力,支持模型服务在生产环境中稳定运行。

FS202610161248501342273587.jpg

2. 持续自动化调优,提高模型运行效率:平台内置 AutoTune 智能模型排期策略,以及结合硬件加速能力的自适应负载均衡调度,优化模型处理请求的能力和首次响应速度,系统极限吞吐效率较基准大幅提升约 285%,性能跃升至原来4倍,真正实现了算力的“满血”释放。

FS20261016124851147562533.jpg

3. 统一管理多种芯片,减少重复适配:平台融合 EngineX 推理引擎,支持并针对多种算力芯片进行深度调优,可统一和混合调度华为昇腾、天数智芯、摩尔线程、海光 DCU 等国产算力资源,用户无需为不同芯片重写底层逻辑代码。

FS20261016124851719212988.jpg

4. 持续优化适配主流模型,加快部署应用:模域团队持续跟进开源社区迭代,已适配优化了 DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM 等主流模型,支持在模型发布后快速部署并且性能调优至生产环境,帮助企业将新模型落地实际业务。

在技术层面上,模域与 vLLM、SGLang 等推理引擎互相配合:推理引擎负责提升单台服务器的计算效率,模域则负责集群架构级纳管和优化,包括负载和缓存感知的请求路由、统一的 KV 缓存池、基于服务质量的自动化扩缩容、服务断流自动续写、基于线上数据的自动化性能调优、运行监控及服务管理等,保证生产环境下系统的高性能和高可用。

模域采用宽松的 Apache 2.0 协议全面开源,将大模型部署与优化的工程能力向更多企业和开发者开放,同时汇聚产业力量,持续完善对不同芯片和模型的支持,减少硬件适配障碍,降低大模型应用门槛,帮助企业用好已有算力,高效释放异构算力的商业潜能。

来源:厂商供稿

作者:

编辑:leilei

图片来源:

本文链接: https://www.aiust.com/article/20261016/2213.html

  • 开源
  • 生产
免责声明:本网站出于传播商业信息之目的进行发布,不代表 AIUST.Com 立场。本文所涉文、图、音视频等资料之一切权利和法律责任归提供方所有和承担。本网站对文中的图文等所有信息的真实性不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。本网站的任何内容仅供参考,不能做为投资、采购或行为决策依据,据此操作者风险自担。

相关文章

资讯

原创

荐读

  • 5G+AR加持 晨星机器人掀起“智能化+人机交互”制造新趋势 5G+AR加持 晨星机器人掀起“智能化+人机交互”制造新趋势

    2021世界制造业大会于11月22日在合肥落下帷幕。为期四天的大会中,作为向世界展示智能制造全面能力的窗口,联想展示了一系列让人惊喜的创新产品。现场展示的ThinkPad X1 Fold整体重量仅有1公斤,折叠起来之后的厚度大约为24毫米。当保持半开状态时,可以像拿本书一样握住,并且能同时运行两个应用程序。使用固定在中间的键盘之后,瞬间变...

  • 智能手机竞争中失败,日本在联网汽车领域举步维艰 智能手机竞争中失败,日本在联网汽车领域举步维艰

    据外媒报道,在制造带有数字联网服务的汽车的竞争中,丰田汽车和日产汽车面临着被本土市场拖累的风险。与美国和欧洲的汽车消费者不同的是,日本消费者不愿意为这些联网功能和服务买单。结果就是:日本只有10%的汽车...

  • 2020年河南省将推广应用3万台工业机器人 2020年河南省将推广应用3万台工业机器人

    到2020年,推广应用3万台工业机器人,建设1000条智能生产线、300个智能车间、150个智能工厂……4月16日,在2018两岸智能装备制造郑州论坛上,河南省工信委发布了《2017年河南省智能制造白皮书》,河南智能制造的2020...

热门标签