方案介绍

私有化部署

玄武私有化方案集成MLGuider智能调优与DeepSeek高性能模型以及玄武私有化平台，旨在提供一站式的大模型训练微调和私有化推理部署服务。MLGuider作为清昴智能自研的AI模型自动优化工具链，针对国产异构芯片进行了适配与优化，确保AI模型能够充分利用硬件资源，实现高效推理。MLGuider和玄武私有化平台配合DeepSeek模型能够实现低成本高效推理，能够极大加速AI应用的进程。

在模型层面，玄武平台支持DeepSeek R1、V3各类蒸馏版本与满血版本的适配和优化，满足企业不同AI场景需求。用户可直接通过平台“模型仓库”即可快速访问调用。此外，平台还支持数据集管理，模型微调及服务部署等系列功能，保证DeepSeek系列模型的开箱即用。

此外，在算力层面，玄武平台同步整合了其他国产系列硬件，支持寒武纪、昆仑芯、沐曦、燧原、摩尔线程、壁仞等，通过 GPU/NPU纳管、智能调度、算力池化、网络虚拟化、存储虚拟化等技术，实现了对算力资源的高效管理和优化，这不仅确保了DeepSeek模型的高效推理能力，还为企业在私有化部署过程中提供了灵活的后续算力扩展能力。

在功能层面，玄武平台集成了数据标注、训练微调、推理部署、服务监控、知识库和AGENT开发平台等核心功能，覆盖从数据处理到模型优化的全流程，助力企业高效落地AI应用。

平台功能

数据标注

玄武私有化方案提供了数据标注、数据预处理和数据库存储等功能，确保数据的质量和可用性。模型层面，方案包括模型仓库、训练、微调、任务管理、训练引擎/镜像管理和可视化等功能，支持企业高效地管理和优化AI模型。

训练微调

玄武私有化方案通过任务管理（支持分布式训练、超参优化、优先级调度）、训练引擎（集成主流框架、支持异构算力）、镜像管理（一键构建环境、自定义Docker镜像）和可视化（实时监控资源和性能）等功能，实现模型训练的高效、灵活与透明，助力企业优化AI模型。

推理部署

玄武私有化方案在推理部署模块中，提供了高并发、低延迟的服务化输出能力，确保模型能够高效、稳定地投入实际应用。包括推理引擎/镜像管理、模型压缩、模型推理和服务管理等功能，确保模型的高效运行和部署。此外，方案还提供服务监控功能，包括机器监控和服务流量监控等，以保障系统的稳定运行。

服务监控

玄武私有化方案的服务监控功能包括机器监控和服务流量监控等，以保障系统的稳定运行。通过这些监控工具，企业可以实时了解系统的运行状态，及时发现并解决潜在问题，确保服务的连续性和可靠性。

知识库和Agent开发平台

玄武私有化方案的两大亮点是知识库和Agent开发平台。平台通过Dify集成了智能知识库，支持非结构化文档解析、多轮对话检索与动态知识更新，构建企业专属知识大脑。此外，平台嵌入了低代码Agent开发平台，通过可视化编排工具，快速搭建智能客服、数据分析、自动化流程等AI Agent，支持与业务系统API无缝对接。

私有化部署套餐方案

清昴智能推出的大模型推理部署私有化套餐方案，包括集群方案和一体机方案，基于国产可控架构设计，集成国产专业算力集群与预装优化的DeepSeek大模型，无需烦恼复杂的硬件配置和软件部署，开箱即用，插电即可运行。