现在聊AI,话题已经从“我们要不要用大模型”变成了“我们到底应该怎么用大模型”。这两个问题看上去只差几个字,背后却是完全不同的管理心态。前一个问题还停留在技术选型和工具引入,后一个问题已经开始碰到企业的业务、流程、组织和管理边界。

很多企业其实已经迈出了第一步。给员工开通几个大模型账号,搭一个内部知识问答,做几个会议纪要、文案生成、制度查询的场景,再让各部门报一批“AI应用场景”。这些事情当然有价值,也确实能很快让员工感受到AI带来的效率变化。但如果把这些动作称为“AI战略”,我一直觉得还早了一点。它更像是一次工具普及,而不是一次真正意义上的经营能力变化。

推荐一篇综述论文《A Comprehensive Overview of Large Language Models》。这篇文章没有在讲企业战略,也没有教企业怎么做AI转型。它做的是另一件事:把大语言模型从预训练、微调、对齐,一直讲到RAG、工具调用、Agent、多模态、评测、安全和治理,尽量把这几年LLM技术演进的主要路线串在一起。

恰恰因为它不讨论企业管理,反而给了一个比较干净的观察视角:当技术从“会生成文本”一步步走到“能够理解任务、调用工具、组织行动”时,企业如果还只把AI理解成一个更聪明的聊天框,迟早会低估它真正带来的变化。

先别急着谈战略,先看清楚大模型到底变了什么---AI战略

早期谈大模型,重点还是参数量、训练数据和模型规模。那时候一个模型“强不强”,更多体现在它能不能写出更自然的文字,能不能回答更多问题,能不能在不同任务之间迁移。论文把整个大语言模型研究概括为预训练、微调、高效化、推理与使用、评测、应用和挑战七个方向,这张图本身很学术,但如果换成企业语言去看,它其实在告诉我们:大模型已经不是一个单点技术,而是一套不断扩展的能力体系。

图1  大语言模型研究全景。来源:Naveed et al., A Comprehensive Overview of Large Language Models, Figure 3,CC BY 4.0。

真正值得注意的是,模型能力的重心一直在移动。预训练解决的是“它知道多少、会不会语言”;指令微调解决的是“它能不能听懂人要它做什么”;对齐解决的是“它能不能以更符合人类意图和边界的方式回应”;RAG解决的是“它能不能访问自己参数之外的最新知识”;工具调用解决的是“它能不能不只说,而是去查、去算、去调用系统”;Agent继续往前一步,开始讨论“它能不能围绕一个目标持续规划、决策和行动”。

如果只盯着模型回答得像不像人,很容易错过这条真正重要的变化:大模型正在从“内容生成工具”变成“任务执行的认知中枢”。

这也是为什么现在很少问客户“你们准备选哪个模型”,而更愿意去了解客户“希望AI最终参与到什么程度”。因为模型选型是技术问题,参与到什么程度才是经营问题。企业真正要决定的,不是买哪个模型,而是哪些工作可以让AI参与,参与到哪里,哪些决策还必须由人掌握,哪些动作一旦交给机器就必须增加新的控制。

企业今天做得最多的“知识问答”,其实只是一个很好的起点---AI战略

企业最容易落地的大模型场景通常是知识问答。这个选择很合理,因为风险相对低,效果也容易感知。制度、产品手册、技术文档、项目材料、客服知识放进知识库,员工用自然语言提问,模型从相关资料中寻找内容再生成回答。过去一个新人可能要问三个人、翻五个文件,现在几分钟就能找到答案。

但知识问答真正做深以后,管理问题很快就会暴露出来。最常见的不是模型不聪明,而是企业自己的知识有问题。同一个制度有三个版本,哪个有效?一份流程文件去年已经改过,知识库里还是旧版;某个产品参数在销售手册、技术说明和售后FAQ里写法不同;有些文档是正式制度,有些只是会议纪要,还有些是某位老员工根据经验写下来的“内部参考”。如果这些东西一股脑交给AI,模型当然会回答,但它回答的是企业自己都没治理好的信息。

关于RAG,核心出发点很清楚:大语言模型会受到知识有限、信息过时和事实性错误的影响,因此需要从外部知识源检索相关内容,再把这些内容交给模型生成答案。这个技术思路对企业最大的启发,反而不是“赶快上RAG”,而是让大家重新认识到知识治理的价值。AI越依赖企业知识,企业越要说清楚知识从哪里来、谁负责、多久更新、哪个版本有效、谁有权访问。

图2  检索增强型LLM的基本流程。来源:Naveed et al., Figure 12,CC BY 4.0。

我接触过部分客户,做知识管理时总觉得投入产出比说不清,制度版本、文档归档、知识责任人这些工作都显得很“基础”。到了AI时代,这些基础工作突然有了新的价值。以前一份错误文档最多影响几个员工;现在如果它进入企业知识库,可能会让AI把错误答案快速传播给更多人。AI并没有让知识治理过时,反而把它从后台管理问题推到了业务一线。

真正的分水岭,是AI开始从“给答案”转向“完成任务”---AI战略

我认为企业AI应用真正的分水岭,不是有没有知识库,而是AI什么时候开始调用工具。因为从这一刻开始,它不再只是一个信息入口,而开始接触企业真正的业务动作。

举个很普通的例子。销售负责人问:“为什么华东区这个月毛利掉了?”如果是传统报表系统,最理想的结果是给他一张结构清晰的图。如果是知识问答,AI可能根据已有报告给出几条解释。但如果模型能够调用企业系统,事情就完全不一样了。它可以先查销售结构,看是不是低毛利产品占比提高;再查采购价格,看原材料成本有没有变化;再看折扣和促销政策;然后比较几个重点客户的订单变化,找出真正拉低毛利的产品和客户。如果必要,它还可以调用分析工具做分组、趋势和异常检测。最后给出的不是一句“可能因为成本上升”,而是一份有数据链条、有证据来源的初步判断。

所以模型在面对任务时,不再只根据自身参数生成文本,而是把任务拆开,选择合适的工具,执行之后拿到结果,再根据结果决定下一步。从下面的示意图里,Planning、Retrieval、Execution、Memory、Observation、Feedback被放在一个可以循环迭代的过程里。这个结构看起来像技术架构,但放到企业里,很像一个有经验的员工在处理复杂工作:先弄清楚要做什么,再找资料、调系统、执行、看结果,不对就调整。

图3  工具增强型LLM的基本流程。来源:Naveed et al., Figure 13,CC BY 4.0。

RAG解决的是“让AI知道企业的事情”,Tool Use开始解决“让AI能够在企业里做事情”。这两者之间的差别,比表面上看起来要大得多。

因为一旦AI开始调用系统,很多过去只属于IT架构的问题,会迅速变成管理问题。它用谁的身份登录?能够看到哪些数据?能不能修改数据?调用失败怎么办?一个分析结果如果会触发订单、付款、调度或者客户沟通,是否需要人工确认?这些问题都不是模型厂商能替企业回答的。它们必须回到企业自己的授权机制、流程设计和责任体系里解决。

为什么一定要明确“AI战略转型”,而不是“上一个AI平台”?---AI战略

很多企业引入新技术时有一种很熟悉的路径:先立项,再买平台,然后让业务部门去想场景。过去做数据中台、流程平台时我们已经见过很多次。到了AI这里,如果还是沿用同一条路,很容易再次出现平台很先进、演示很精彩,但真正进入业务以后不知道该解决什么问题。

AI战略转型之所以值得单独讨论,是因为它不只是新增一套技术能力,而是开始触碰“工作本身怎么完成”。同样是一份供应商风险分析,以前可能需要采购人员导出订单,质量人员提供不合格记录,法务翻合同,财务补充付款情况,最后由一个人把几份Excel和文档拼起来。未来如果AI可以在授权范围内调用这些系统,把信息归集、交叉验证、形成初步判断,再把真正需要人判断的地方标出来,那么变化的就不再只是效率,而是工作的组织方式。

这时候企业要讨论的问题会自然发生变化。不是“AI能不能帮采购写报告”,而是“采购分析这项工作,人和AI怎么重新分工”。不是“客服能不能用AI回答问题”,而是“哪些客户请求可以自动处理,哪些必须转人工,什么情况下AI的建议只能作为参考”。不是“运维能不能做一个智能助手”,而是“AI能不能从监控告警、历史事件、变更记录和知识库里自动形成初步诊断,甚至调用自动化工具执行一部分低风险处置”。

当这些问题开始出现时,AI已经不再是一个孤立的IT项目。它进入业务流程,也进入岗位职责,最后会进入组织设计和经营管理。这才是我理解的“AI战略转型”。战略的含义并不是把AI写进公司战略规划,而是企业开始明确:未来哪些能力由人负责,哪些能力由机器增强,哪些工作可以由智能体承担,哪些关键判断必须保留在人手里。

Agent真正值得关注的地方,不是“自主”,而是它开始围绕目标组织工作---AI战略

现在大家很喜欢谈Agent,有时这个词也被用得有点过头。一个多轮对话机器人也叫Agent,一个自动化脚本加上大模型也叫Agent。把营销语言放在一边,我觉得Agent真正值得企业关注的地方,是它把交互逻辑从“你问我答”变成了“你给我目标,我围绕目标推进任务”。

比如客户经理说:“下周要拜访这家客户,帮我把准备工作做一下。”如果只是Chatbot,它大概率给你一份拜访提纲。如果是一个真正接入企业能力的Agent,它可能先去CRM看过去几年的交易和拜访记录,再看最近的订单和投诉,查有没有未解决的问题,结合公开信息看看客户最近有什么业务变化,然后整理可能关注的话题,生成拜访材料草稿,最后提醒客户经理哪些信息仍然需要人工确认。整个过程里,AI真正提供的价值不是写得更快,而是减少了人在多个系统之间寻找、复制、判断和拼接的工作。

论文把AI Agent描述为能够规划、决策并采取行动以实现复杂目标的实体。这个定义很技术,但放到企业现场,我更愿意把它理解成一种新的“工作组织方式”。过去我们设计流程,是先把每一个步骤、角色和系统动作写清楚,再固化到流程引擎里。Agent出现以后,有些非完全确定的知识工作,可能不再需要把每一步都提前写死,而是给它一个目标、边界和可用工具,让它根据情况决定下一步。

这里当然还有很长的路要走。企业不会,也不应该,把重要业务突然交给一个完全自主的Agent。但方向已经出现了。最先变化的,很可能是那些跨系统、重复性高、需要一定判断但又不属于重大决策的工作。比如材料准备、异常初筛、服务请求分流、测试分析、合规检查、知识检索、初步根因分析。它们过去很难通过传统RPA完全自动化,因为规则太多、文本太多、例外太多;而LLM恰好提供了过去自动化最缺的那一层理解能力。

模型越能“做事”,企业越不能把治理当成上线之后再补的事情---AI战略

很多人对AI治理有一个误解,好像它主要是在防止模型说错话,或者给输出加一道内容安全过滤。如果AI只是写写文案,这么理解问题不大;但当AI开始访问企业数据、调用业务系统、发起动作以后,治理的对象就变了。

论文在挑战部分讨论了隐私、对抗鲁棒性、可解释性、计算成本以及监管和伦理等问题。对企业而言,这些问题会以非常具体的方式出现。销售人员问AI“这个客户去年最低成交价是多少”,模型能不能回答?一个采购Agent为了完成任务,能不能看到所有供应商合同?AI生成一份经营分析时引用了内部敏感数据,谁可以看到最终报告?如果AI判断某个客户存在信用风险,这个判断能不能直接触发额度调整?

这些问题都说明了一件事:AI越往执行端走,企业越要把身份、权限、数据、流程、审计和责任重新放到一起看。以前我们做权限管理,核心问题是“这个人能不能访问这个系统”;以后还要多问一句,“AI代表谁在访问,它为什么有这个权限,它调用了什么,它的动作能不能被追溯”。

这也是为什么我不太赞成把AI治理单独理解成一套合规制度。真正有效的治理一定嵌在业务里。高风险动作需要人工确认,敏感数据调用要有边界,模型回答要保留证据来源,关键任务要能追踪调用链,Agent失败后要有回退机制。这些都不是挂在墙上的原则,而是系统设计和流程设计的一部分。

AI战略转型真正考验的,可能还是企业那些看起来“不够AI”的基本功---AI战略

越往下想,我越觉得AI战略转型有一点反直觉。表面上看,它是一次新技术带来的跃迁;真正做起来,却会把企业过去很多没有做扎实的基础问题重新暴露出来。

系统接口不标准,AI就很难稳定调用;数据口径不统一,AI分析出来的结论就不可信;主数据混乱,跨系统关联就会出错;流程责任不清,AI做完一步以后不知道该交给谁;知识没有版本管理,RAG就会把新旧内容混在一起;权限设计过粗,一旦Agent开始调用系统,风险马上被放大。

所以有些企业会发现,做着做着AI项目,最后又回到了数据治理、流程治理、知识管理、API治理和身份权限管理。这不是项目跑偏了,恰恰说明AI开始真正进入企业。AI不是绕过这些基础能力的捷径,而是一个放大器。企业底座清楚,它会把能力放大;底座混乱,它也会把混乱放大。

这也解释了为什么我对“一个大模型解决所有企业问题”始终比较谨慎。大模型可以降低人与系统交互的门槛,可以帮助处理大量非结构化信息,可以让过去难以自动化的知识工作出现新的可能,但企业的事实仍然要来自业务系统,权限仍然要由企业控制,责任仍然要由组织承担。AI不会让ERP、MES、CRM、ITSM这些系统消失,更多时候它会改变人使用这些系统的方式。前端可能越来越自然,后端反而必须越来越严谨。

那么,企业现在到底应该从哪里开始?---AI战略

如果今天让我和一家企业讨论AI战略,我不会第一天就问预算,也不会先画一个“企业级AI平台”的架构图。我更愿意先和业务人员坐下来,把他们一天到底怎么工作弄清楚。哪些事情每天都在重复查资料,哪些分析要跨好几个系统,哪些岗位严重依赖老员工经验,哪些异常已经有数据却还是要靠人慢慢判断,哪些流程看起来在线化了但中间依然需要大量人工复制和沟通。

这些地方往往比“我要做一个AI场景”更接近真正的机会。因为AI最有价值的地方,不是把一个本来就很顺畅的流程再提速10%,而是进入那些过去因为理解成本高、信息分散、规则不完全确定而难以自动化的工作。

找到问题以后,再决定用什么技术。能用普通搜索解决的,不要硬上大模型;一个Prompt就能解决的,不必急着做知识库;需要企业知识时再做RAG;需要跨系统查询和计算时再接工具;只有当任务真的需要围绕目标持续规划、判断和执行时,才值得谈Agent。这样的顺序听上去没有“企业智能中枢”那么宏大,却更接近企业真实的投入产出逻辑。

这几年企业做技术转型已经交过不少学费。先建平台、再找场景;先追热点、再问价值;先把新技术包装成战略,最后发现业务没有真正变化。AI这一轮,没有必要再重复一次。

从“会回答”到“会做事”,真正变化的是企业对机器能力边界的理解---AI战略

其实按照我的感受,不是某一种技术有多先进,而是大语言模型的演进方向越来越清楚。预训练让模型拥有基础语言和知识能力;指令微调让它更会理解人的要求;对齐让它的行为更接近人的期望;RAG让它能够使用外部知识;工具调用让它可以执行动作;Agent让它开始围绕目标组织多个步骤。论文第6页那张从Pre-training、Instruction Tuning到Alignment和Prompting的流程图,很直观地展现了“基础模型”如何逐渐变成一个可以被人使用的智能助手。

图4  从预训练、指令微调、对齐到使用的基本过程。来源:Naveed et al., Figure 6,CC BY 4.0。

如果沿着这条技术演进线再往企业里看,所谓AI战略转型,最终并不是部署多少个模型,也不是一年落地多少个AI场景。真正的问题是:企业开始重新认识哪些工作必须由人完成,哪些工作可以由AI增强,哪些环节可以让AI先做、由人复核,哪些低风险动作可以逐步自动执行。

这是一个比“用不用AI”更难的问题。因为它会碰到岗位、流程、权限、绩效、责任,甚至会改变管理者对组织能力的理解。也正因为如此,我越来越觉得企业不应该把AI战略只交给IT部门。IT当然负责技术底座,但真正决定AI能走多深的,是业务愿不愿意重新设计工作,是管理层能不能接受人与机器新的分工,是企业有没有能力建立新的风险边界。

AI战略转型,不是给现有工作加一个AI按钮,而是重新设计“人、AI、数据、系统和流程如何共同把事情做完”。

如果AI最后只是让员工写邮件更快、做PPT更快,它当然也创造了价值,但这还谈不上战略转型。真正的变化,是有一天我们发现,一项过去必须由人穿梭在五个系统、找十份材料、问三个人才能完成的工作,现在可以由AI先组织起来,人把注意力放到真正需要判断和承担责任的地方。到了那一步,AI就不再只是一个工具,而开始成为企业运行方式的一部分。

从“会回答”到“会做事”,技术已经在往前走。企业真正需要准备的,不是赶紧追上每一个模型版本,而是尽早想清楚:当机器开始拥有越来越强的理解、推理和行动能力时,我们准备怎样重新设计自己的工作。

 

参考与版权说明

本文关于大语言模型技术演进、RAG、工具增强型LLM、Agent、对齐与相关挑战的技术背景,主要参考 Humza Naveed, Asad Ullah Khan, Shi Qiu, Muhammad Saqib, Saeed Anwar, Muhammad Usman, Naveed Akhtar, Nick Barnes, Ajmal Mian, “A Comprehensive Overview of Large Language Models”, arXiv:2307.06435v10, 17 Oct 2024。本文对企业AI战略、业务流程、组织分工与治理的讨论,为基于该综述与企业管理实践所作的延伸分析,并非论文作者的原始结论。

 

数字安全 关注安言