企业 AI 项目最容易犯的错误,是先选模型,再找场景。演示效果很好,上线后却没人用,通常不是模型不够强,而是没有解决真实业务问题,或者数据、权限、成本和流程没有打通。
一、从业务问题开始,而不是从模型开始
适合优先试点的场景通常具备三个特征:重复性高、有明确输入输出、人工有稳定判断标准。例如知识库问答、合同与文档初审、客服辅助、内容初稿、会议纪要和报表解读。相反,责任重大、容错率极低、数据无法授权的场景,应先做辅助而不是自动决策。
建议先选一个部门、一个流程做小范围验证,明确成功指标,再考虑扩展到更多业务。
二、系统架构:模型只是其中一层
一个可上线的企业 AI 应用,通常包含以下层次:
- 模型接入层:统一接入不同厂商的大模型,处理鉴权、路由、限流、失败重试和用量统计。
- 数据与检索层:把企业文档、知识库和业务数据做清洗、切分和索引,为 RAG 检索提供依据。
- 应用编排层:把提示词、检索、工具调用和业务流程组合起来,形成可复用的应用逻辑。
- 权限与审计层:控制不同角色可访问的模型和数据,记录输入、输出、调用人和时间。
- 运营评测层:持续跟踪准确率、人工采纳率、时延、成本和异常案例。
三、华为云侧的产品底座
ModelArts:华为云魔坊(ModelArts)是面向开发者的一站式 AI 开发平台,官方能力覆盖数据准备、算法开发、模型训练、部署上线、模型评测和资源管理,支持 MindSpore、TensorFlow、PyTorch、Ascend-vLLM、LLaMAFactory、VeRL 等框架,并提供在线推理、批量推理和边缘推理等部署形态。它更适合需要自定义训练、微调、私有部署或复杂推理服务的项目。
MaaS:MaaS 模型即服务提供基于昇腾适配的主流大模型服务,支持通过控制台或 API 调用,预置模型覆盖文本生成、代码生成以及图像理解、视频生成等多模态能力。官方文档列出的模型系列包括 openPangu、GLM、DeepSeek、Kimi 等。它适合希望快速验证、按需调用、减少算力自建和运维投入的场景。
两者不是替代关系:先用 MaaS 做场景验证和通用能力接入,当业务需要专属数据、定制模型或独立部署时,再考虑 ModelArts 训练与部署。底层再结合 对象存储 OBS 保存训练数据和文档、VPC 做网络隔离、IAM 做权限控制,才能形成可运营的企业 AI 架构。
四、MaaSUnion 在其中的作用
MaaSUnion 是云起时空自主研发的大模型聚合平台,定位为多模型统一接入网关。企业可以通过一套 API 密钥接入不同厂商的模型,减少重复对接成本,并结合路由、流量调度和用量统计,根据任务类型选择合适的模型。
对于需要多模型对比、按场景切换或控制调用成本的项目,统一网关可以减少应用层改造。模型选择不应追求“最强”,而应在效果、时延、稳定性和成本之间取得平衡。网关层还应保留调用日志、错误率和 Token 用量等指标,方便后续做模型替换和预算管理。
五、RAG 与 Agent:按问题复杂度选择
RAG:适合企业知识问答、制度查询、产品资料检索等场景。重点不在提示词,而在文档质量、切分方式、检索召回和引用溯源。没有可靠数据,RAG 只会把错误答案包装得更像正确答案。
Agent:适合需要多步骤工具调用和任务编排的场景,例如自动生成报表、跨系统查询和处理工单。Agent 的权限边界必须清晰,高风险操作应保留人工确认。
六、数据与安全底线
上线前要明确数据分级、脱敏规则、访问权限、日志留存和模型调用边界。涉及客户信息、财务数据和合同内容时,应优先选择可控的部署与调用方式,并保留完整的审计记录。不要把所有企业数据直接塞进公共模型,也不要把模型输出直接当作最终决策。
在华为云上,可以将训练数据、知识库原文和导出结果放入 OBS,通过 VPC 和访问策略限制访问范围;使用 IAM 控制不同角色对模型服务、数据桶和管理控制台的权限;对高风险操作增加审批和人工复核。数据安全不是模型层单独能解决的问题,必须和云上网络、存储、身份与审计一起设计。
七、评测、试点与扩展
建议建立一套小规模评测集,覆盖常见问题、边界问题和错误案例。除了准确率,还要看人工采纳率、平均处理时长、单次调用成本和用户反馈。试点阶段保留人工复核,稳定后再逐步扩大自动化比例。
云起时空可结合华为云算力、MaaSUnion 模型网关和行业场景经验,协助企业完成 AI 应用选型、原型验证和上线运营。欢迎联系顾问,或发送邮件至 maasunion@yunqitime.com。公司地址:四川省成都市成华区双店路66号1栋1单元5层512号。
留言讨论
还没有留言,欢迎留下你想了解的场景。
查看全部留言 ›