企业 AI 智能体:是什么,以及如何在公司落地
企业 AI 智能体是基于大语言模型的程序,它不只是回答问题,而是真正执行工作步骤:阅读文档和往来邮件,按语义查找信息,起草文本,并在您的系统中触发操作。它在公司设定的访问边界内工作,每一步操作都会记录在日志中。落地要分步进行:先接入数据源,再划定边界,用真实案例检验,最后逐步扩展。
什么是 AI 智能体,它和聊天机器人有什么不同
普通的聊天机器人负责对话:收到一个问题,返回一段文字。即使底层用的是很强的大语言模型,它的产出也只是屏幕上的一个回答。拿到回答之后怎么做,仍然由人来决定。
AI 智能体的工作方式不同。它接到任务后,会自己把任务拆成若干步骤,并借助被授权使用的工具逐一完成:打开文档,在知识库里找到对应的制度,核对数据,起草邮件,在 CRM 里创建任务。简单地说,智能体是在执行工作步骤,而不只是陪您聊天。
| 聊天机器人 | AI 智能体 | |
|---|---|---|
| 输入 | 用户的问题 | 任务,以及对数据和工具的访问权限 |
| 输出 | 一段回答文字 | 工作成果:草稿、定位到的章节、已触发的流程步骤 |
| 知识来源 | 预设脚本或模型的通用知识 | 您的文档、邮件和知识库 |
| 在系统中的操作 | 没有,或只能按固定脚本 | 在授予的权限范围内进行 |
| 监管方式 | 对话记录 | 访问边界加上每一步操作的日志 |
两者之间的界线并不总是很清晰:带按钮和脚本的机器人也能完成一些动作。区别在于,智能体会根据任务的含义和您的数据,自己判断下一步该做什么。如果工作主要是按明确流程收集申请、发送通知,通常一个机器人就够了,详见《企业 Telegram 机器人》。
智能体能承担哪些工作
最适合交给智能体的,是围绕文本和数据的重复性工作:员工把时间花在查找、阅读和搬运信息上,而不是做决策。常见的方向有:
- 处理文档和往来邮件:合同、账单、客户来信、客服工单。智能体提炼要点、期限、金额和有争议的地方。
- 基于公司知识库回答问题:规章制度、操作说明、产品介绍。员工用自己的话提问,智能体给出答案并标明出处。
- 起草文稿:给客户的回复、给合作伙伴的信、内部报告,或根据描述生成合同草案。草稿由人审核后再发出。
- 语义搜索:找到相似的工单、上百份文档中的某一条款、过去对同类问题的处理结果,即使提问用词完全不同也能找到。
- 触发流程步骤:在 CRM 中建卡片、分派任务、通知负责人、把数据填入表格。
在实际中,智能体最常见的角色是企业专属的 AI 助手。它不是取代某个部门,而是把决策周围的琐碎工作从员工手里接过来:法务少读一些材料,经理少找一些资料,管理者更快拿到汇总。
什么时候需要智能体,什么时候机器人或自动化就够了
把 AI 引入企业,并不一定意味着要做智能体。有时候有更简单、更可靠的方案,最好在开工之前就想清楚。
- 如果只是按明确规则把数据从一个系统转到另一个系统,需要的是普通的自动化:数据交换、队列、校验。这里用不上大语言模型。
- 如果客户按固定流程提交申请、接收状态通知,一个带按钮的机器人就能胜任。
- 如果工作需要阅读非结构化文本、理解含义并选择下一步,这才是智能体的用武之地。
- 如果您需要的是一个带独立界面的大型产品,智能体可以作为其中的一部分,而不是单独的系统。
现成服务和定制开发之间如何取舍,我们在《定制开发还是现成方案》中单独做了分析。简单来说,通用助手适合通用任务;当智能体必须使用您的数据、对接您的系统、遵守您的权限规则时,AI 智能体定制开发才更有意义。
智能体由哪些部分组成
任何智能体内部都有几个组成部分。了解它们,有助于您和开发团队用同一种语言沟通:
- 数据源:文档、邮件、知识库、CRM、表格。回答质量受数据质量的影响,往往比受模型选择的影响更大。
- 大语言模型:负责理解任务并组织结果。
- 语义搜索:在您的数据中找到相关片段,并与问题一起交给模型的机制。
- 工具:允许智能体执行的操作,例如读取文件、创建记录、发送通知。
- 规则与边界:智能体能看到什么、能修改什么、在什么情况下必须征求人的意见。
- 日志:记录每一次请求、找到的数据来源以及执行的操作。
最后两项常常被低估,但正是它们让智能体真正能够在公司内部投入使用。
访问边界与操作日志
一个什么都能访问的智能体,即使模型再好也存在风险。所以边界要在上线之前设定,而不是等到第一次出错之后。
边界包括什么
- 智能体可以读取哪些数据源:例如只读取本部门的制度和合同,不能读取人事档案。
- 哪些操作可以自己完成,哪些只能提出建议、等待人工确认。
- 哪些员工、以什么角色可以给智能体分派任务。
- 哪些数据绝不能离开您的系统环境。
为什么需要日志
日志回答的是“智能体做了什么、为什么这样做”。从日志里可以看到谁下达了任务、智能体打开了哪些文档、给出了什么回答、执行了什么操作。这对排查错误、检查质量都必不可少,也让管理者心里有数:智能体的工作全程可见,而不是靠别人转述。在我们的实践中,访问边界由客户设定,智能体的每一步操作都会出现在日志中,这一点在软件开发页面上也有说明。
分步落地
最稳妥的做法不是一开始就覆盖整个流程,而是从一个可以验证的窄场景入手。顺序如下:
- 选定任务。只选一个具体任务,例如审阅收到的合同,或回答员工关于内部制度的问题,并明确什么样的结果算成功。
- 接入数据源。收集这个任务所需的文档和数据,清理过时内容:智能体会以您提供的材料为依据。
- 设定边界。确定智能体读取什么、哪些事自己做、哪些事只向人提出建议。
- 用真实案例检验。从日常工作中取几十个真实案例,把智能体的回答与员工的做法进行对比。数据中的空白和规则表述上的问题,往往就在这一步暴露出来。
- 小范围试运行。几位员工每天和智能体一起工作,日志会显示它在哪里出错。
- 逐步扩展。只有当第一个场景稳定运行后,才增加新的数据源、操作和场景。
根据我们的经验,基于您自有数据的 AI 智能体,第一个可用版本通常在几周内完成:接入数据源,设定访问边界,用您的真实案例检验回答,然后再扩展。其他类型项目的周期可参阅《应用开发需要多长时间》;“先做窄场景”的思路在《最小可行产品 MVP:从哪里开始》中有详细说明。
案例:JEEKSSHIRE 24 Legal 中的 AI 法务助手
我们不只为客户开发 AI 智能体。JEEKSSHIRE 24 Legal 是我们自己的产品:一款带人工智能的文档编辑器,可以根据描述起草合同,也可以审阅您已有的合同。
- AI 法务助手审阅合同,找出有风险的条款和措辞,例如没有上限的违约金。
- 它回答关于文档的问题,并直接打开相应章节,让人看到原文条款,而不是转述。
- 支持 PDF 和 DOCX,可以从图片和截图中识别文字,并支持签名和导出。
- 文字识别直接在浏览器中进行,文档不必离开您的电脑。
- 既有网页版,也有 Mac 和 Windows 桌面版。
Legal 的核心原则是:AI 与文档协同工作,而不是取代文档。智能体指出风险、带您找到对应位置,决定权仍然在人手里。在这里,隐私是一项工程要求,而不是政策里的一句话。我们为企业开发的智能体,也遵循同样的思路。
风险以及如何降低风险
AI 智能体有一些局限,最好事先了解。这些风险无法完全消除,但可以通过系统设计明显降低。
| 风险 | 会发生什么 | 如何降低 |
|---|---|---|
| 模型出错 | 智能体很自信地给出错误答案,或者编造事实 | 只依据检索到的来源作答并附上出处,上线前用真实案例检验 |
| 多余的操作 | 智能体执行了本不该执行的步骤 | 重要操作需人工确认,权限尽量收窄 |
| 隐私 | 数据流向了不该去的地方 | 每次请求只带必要的数据,尽可能在您的系统环境内处理,访问权限分离 |
| 数据过时 | 智能体依据的是旧版制度 | 每个数据源指定负责人,定期更新知识库 |
| 不透明 | 不清楚智能体为什么这样做 | 记录请求、来源和操作的日志 |
关于隐私再多说一句。敏感文档最好在非必要时不离开您的系统环境,例如在 Legal 中,文字识别就在浏览器里完成。哪些数据可以传到哪里,要在设定边界时就确定,而不是上线之后再考虑。
与开发方沟通前如何准备
不需要事先写好完整的需求文档。只要先回答自己几个问题:
- 目前哪项工作最耗时,并且涉及阅读、查找或搬运信息?
- 数据存放在哪里:哪些系统、哪些文件夹、哪些邮箱?
- 哪些事智能体可以自己做,哪些只能提建议?
- 上线头几周由谁来检查回答?
- 您如何判断智能体带来了价值?
如果想整理得更完整,可以参考《如何准备软件开发需求文档》。也可以直接在申请表里用自己的话描述任务:我们会一起判断您需要的是智能体、机器人还是简单的自动化,并给出分步计划。
自建智能体还是使用现成平台
现成的 AI 助手和智能体搭建平台上线很快:上传文档、设置提示词,智能体就能开始回答。对于基于公开知识库答疑这类常规任务,这可能就够了。当数据、操作和管控变得重要时,才需要开发自己的 AI 智能体。
| 问题 | 现成平台 | 自建智能体 |
|---|---|---|
| 数据存放在哪里 | 按平台的规则 | 由您决定:在自己的环境中,或在您选择的服务商处 |
| 与您的系统对接 | 限于平台提供的现成连接 | 可对接任何提供 API 或数据导出的系统 |
| 能执行哪些操作 | 平台提供的操作集合 | 您业务流程中的步骤:创建申请、准备文档、更新记录 |
| 管控 | 平台的设置项 | 自定义的访问边界,以及每一步操作的日志 |
常见的路径是:先用现成工具,弄清员工和客户都在问什么问题;等到在数据或操作上遇到瓶颈,再转向自建智能体。这类工作如何开展,请看 AI 智能体开发 页面。
如何衡量智能体带来的价值
衡量智能体的价值,和衡量任何流程一样:在相同的任务上对比“之前”和“之后”。因此,测量要在试点之前就开始。没有基线,任何“变好了”都只是感觉。
- 选定一个流程:答复客户、整理收到的文档、起草初稿。
- 记录基线:完成任务要花多少时间,处理多少请求,哪里最容易出错。
- 定义什么算是智能体的好回答,并收集一组真实案例用于检验。
- 试点期间统计:多少回答无需修改就被采纳,多少被修正,多少转交给人工处理。
- 将结果与基线对比,再决定是扩大智能体的使用、调整其边界,还是停止。
有时数据会表明,这项任务需要的不是智能体,而是基于规则的普通自动化:它维护成本更低,结果也更可预测。这类情况适合 业务流程自动化。
常见问题
AI 智能体和聊天机器人有什么区别?
聊天机器人用文字回答,而智能体会执行工作步骤:在设定的边界内阅读文档、按语义搜索、起草文稿,并在您的系统中触发操作。
AI 智能体可以承担哪些任务?
处理文档和往来邮件,基于公司知识库回答问题,起草邮件和文件,语义搜索,以及触发流程步骤,例如在 CRM 中创建任务。
落地需要多长时间?
基于您自有数据的智能体,第一个可用版本通常需要几周。准确周期在分析任务之后确定。
智能体的回答可以信任吗?
不能盲目信任,因为模型可能出错。所以回答要依据您的资料并附上出处,用真实案例检验,重要操作由人确认。
数据保密怎么保障?
访问边界由公司设定:智能体读取哪些数据源,哪些数据不能离开您的系统环境。智能体的每一步操作都会记入日志。
需要事先准备好需求文档吗?
不需要。用自己的话描述任务即可:现在遇到了什么问题,需要什么结果。其余内容在分析任务时一起梳理。
AI 智能体中的 MCP 是什么?
MCP(Model Context Protocol,模型上下文协议)是一个开放协议,让 AI 模型按统一规则连接工具和数据源。它简化了智能体与您的系统的对接,但访问边界仍需单独设定。
AI 智能体可以在 Telegram 里使用吗?
可以。Telegram 是很方便的界面:员工或客户给机器人发消息,背后的智能体在设定的边界内处理您的数据。
小企业引入 AI 应该从哪里开始?
从一项重复且文字量大的任务开始:回答常见问题、整理邮件或文档。用真实案例做一次试点,很快就能看出是否有价值。