AI知识库怎么接入公司内部文档做检索

文章导读
把公司内部文档接进 AI 知识库做检索,真正要定的是“文档在哪、谁能看、怎么切、怎么带着出处回答”这四件事,选模型反而是后面一步。比较稳妥的起点是挑一个权限边界清晰、文档数量可数的目录,先跑通“只读检索 + 出处引用”,确认召回到的内容是对的,再考虑扩到更多系统和更细的权限。
📋 目录
  1. 壹 先确认当前场景和目标
  2. 贰 按这个顺序处理
  3. 叁 改完后怎么验证
  4. 肆 容易忽略的边界
A A

把公司内部文档接进 AI 知识库做检索,真正要定的是“文档在哪、谁能看、怎么切、怎么带着出处回答”这四件事,选模型反而是后面一步。比较稳妥的起点是挑一个权限边界清晰、文档数量可数的目录,先跑通“只读检索 + 出处引用”,确认召回到的内容是对的,再考虑扩到更多系统和更细的权限。

建议先把接入范围收窄到一个可枚举、权限相对单一的文档库,用“抽取—分块—建索引—检索—带引用生成”的最小链路跑通。判断能不能用的信号有三条:答得出的问题能点开原文出处;无权限的账号检索不到该文档;文档里没有的内容会明确说没找到。如果文档分散在多个系统、权限按人细分,先做权限映射再扩量,否则容易越权召回。

先确认当前场景和目标

这个方案成立的前提,是你对文档有读取权限,并且能拿到文档的权限标签(空间、目录、角色或人员名单)。如果文档只存在于个人电脑、邮件附件或截图里,就先别谈检索质量,先把文档归到一个可批量导出的位置。

动手前需要确认这几项:

  • 文档源类型:是 Wiki/知识库这类有 API 的系统,还是共享盘里的 Word、PDF、Excel。前者通常能拿到稳定正文和更新时间,后者要额外处理格式和扫描件。
  • 权限模型:是按空间、按目录,还是按人到单篇文档。按人的权限最难同步,需要先确认有没有可读取的权限接口或导出表。
  • 更新频率:制度、流程这类文档改动后如果几周都不重建索引,检索出来的就是过期内容。要确认能否拿到增量变更或修改时间。
  • 回答粒度:读者要的是“哪份文档第几条这么写的”,还是“帮我总结一下流程”。前者重点在定位准确,后者重点在片段拼装。
  • 数据边界:文档能否发送到外部模型服务。涉及合同、人事、财务的内容,通常要求走内部部署或先做脱敏。

这些信息里只要有一项拿不到,比如没有权限接口,就不要一开始就全量接入。建议先选一个不敏感的空间做试点,把链路跑通再补权限。

按这个顺序处理

顺序上建议是:盘点文档源 → 抽取正文 → 分块 → 建索引并写入元数据 → 检索加权限过滤 → 拼提示词生成。下面三段是可替换的通用示例,字段名按你实际系统的命名改,逻辑不变。

第一步,把文档源和分块策略写成一份配置,先小范围跑。这份配置的作用是明确“接哪些、不接哪些、每块多大、带哪些元数据”,方便后续调整和复现。

{
  "source": "wiki_space_policy",
  "include": ["/制度/*.md", "/流程/*.pdf"],
  "exclude": ["/制度/草稿/*", "/归档/*"],
  "chunk": { "max_chars": 800, "overlap": 120, "split_by": "heading" },
  "acl": { "mode": "inherit", "field": "space_permission" },
  "metadata": ["doc_url", "updated_at", "owner", "doc_type", "anchor"]
}

其中 split_by: heading 表示优先按标题切,避免一份制度被拦腰截断;anchor 用来存章节位置,方便回答时跳回原文。表格类文档不适合按固定字数切,建议单独走一条“整表入库、保留表头”的路径。

第二步,检索后必须先过权限,再交给模型。这是整条链路里最容易出问题的一环,示例逻辑如下,阈值需要按你们语料实际情况调整:

def answer(question, user):
    hits = index.search(question, top_k=8)

    # 关键一步:检索结果再按用户权限过滤,不能只在入库时过滤
    hits = [h for h in hits if h.acl_group in user.groups]

    if not hits or max(h.score for h in hits) < THRESHOLD:
        return "内部文档里没有找到相关内容,建议联系文档负责人确认。"

    context = "\n\n".join(
        f"[{i+1}] {h.text}\n来源:{h.doc_url}" for i, h in enumerate(hits)
    )
    return llm(question, context)

第三步,提示词里把“只依据片段回答”和“必须标出处”写死。下面这段可以直接替换进去试:

AI知识库怎么接入公司内部文档做检索
你是公司内部文档检索助手,只依据下面给出的片段回答。

规则:
1. 每个结论后用 [编号] 标注出处,编号必须来自下方片段。
2. 片段中没有的信息,直接回答“文档中未提及”,不要推测。
3. 涉及金额、审批时限、责任部门时,逐字引用原文表述,不要改写。
4. 多个片段说法冲突时,优先引用 updated_at 较新的那份,并说明存在旧版本。

片段:
{context}

问题:{question}

这三步的落地顺序不要颠倒。先建索引再想权限,往往会返工重建;先调提示词再接文档,测出来的效果没有参考价值。

改完后怎么验证

验证不要靠随机问几句感觉不错。建议先准备一组 20 到 50 条问题,按三类分布:文档里有明确答案的、需要跨两篇文档才能答的、文档里根本没有答案的。每条问题同时记录“期望命中的文档和章节”,这三类问题分别对应召回能力、拼装能力和拒答能力。

要观察的信号有这些:

  1. 抽查回答里的出处链接,点开后是否是同一段文字,章节锚点有没有偏。出处打不开或跳到首页,说明元数据没写对。
  2. 用一个只有低权限的测试账号问同样的问题,看是否检索不到敏感文档。这一步比看答案质量更重要,建议每次都做。
  3. 换一种问法问同一件事,比如从“报销多久到账”换成“差旅报销的到账时间是几天”,看是否仍然命中同一份文档。
  4. 拿一条应该拒答的问题测,看系统是否老实回答“文档中未提及”,而不是编一段看似合理的话。
  5. 修改一篇测试文档的内容后重新入库,再问同一个问题,确认旧内容不再被召回。

如果召回不准,先看分块是不是把答案和标题切开了,再看向量化效果;如果召回准但回答跑偏,问题通常在提示词或片段拼接顺序上,不要一上来就换模型。

容易忽略的边界

几个常见的坑值得提前说明。权限同步一般不是实时的,文档在源系统里改了权限,索引侧可能还停留在旧状态,所以权限标签建议按较短的周期刷新,并保留“权限变更即重新过滤”的逻辑。扫描版 PDF 和图片型公告通常抽不出正文,需要 OCR 或直接排除,否则检索里会留下一批空白条目。

文档更新也是容易被低估的部分。全量重建简单但慢,增量更新快但容易漏,建议至少按 updated_at 建立每日增量任务,并给一个定期全量重建作为兜底。模型上下文长度有限,top_k 开得太大反而会稀释重点,通常 5 到 8 条比较可控。

不适用的场景也要说清楚:如果文档主要是大量表格数据、需要精确计算,或者大量内容在聊天记录和邮件里,这套检索方案的效果有限,更适合走数据查询或人工整理后再入库。回退建议是保留一条原始的关键词检索入口,模型这条链路出问题或生成内容不可信时,至少还能按关键词定位到文档原文;对合规要求高的目录,可以先只做“检索定位 + 展示原文”,把生成这一步关掉再逐步放开。