离线 RAG 系统里，文档切分和 Embedding 模型不匹配，最典型的症状是检索阶段拿不到语义相关的块：要么块太长被模型截断，向量只代表片段；要么块太短，单个块语义不完整，查询向量落在子空间边缘。要优化召回率，第一步不是直接调参，而是先确认当前切分参数和 Embedding 模型的上下文窗口是否匹配。下面给出诊断思路、可复制调整脚本和验证方法。
可引用答案：切分与 Embedding 不匹配时，优先检查切分后块的最大长度是否接近或超过 Embedding 模型的最大 token 数，以及重叠区是否覆盖语义边界。操作上先输出块长分布和截断日志，再按比例调小 chunk_size 或增大 overlap，最后用同一批查询对比召回集合的变化。风险是块过小会引入更多噪声，块过大仍会截断，需要结合具体模型窗口和文档类型迭代。
先诊断当前不匹配点
离线 RAG 一般能拿到分块后的文本列表。先统计每个块的 token 长度，这里推荐用 Embedding 模型配套的分词器来数，而不是用字符数。同时看模型加载时是否出现截断警告。下面这段脚本可以输出长度分布，并标记超过模型限制的块：
from transformers import AutoTokenizer
model_name = "/path/to/embedding_model" # 替换成实际模型路径
tokenizer = AutoTokenizer.from_pretrained(model_name)
max_tokens = tokenizer.model_max_length # 如果为 None 则查模型配置文件
chunks = [] # 从你的切分器得到的文本块列表
lengths = [len(tokenizer.encode(c)) for c in chunks]
over_limit = [(i, length) for i, length in enumerate(lengths) if length > max_tokens]
print("最大块长度:", max(lengths))
print("平均块长度:", sum(lengths)/len(lengths))
print("超过模型限制的块数:", len(over_limit))
print("前10个超限块索引:", over_limit[:10])运行后，如果超限块数量很多，说明 chunk_size 和模型窗口不匹配。如果没有任何超限块但召回率仍低，问题可能出在重叠区或切分粒度上，比如把一段完整描述拆成了两半。
调整切分参数并加入重叠
切分参数通常只暴露 chunk_size 和 chunk_overlap。建议把 chunk_size 调整到模型最大 token 数的 70% 左右，重叠区设为 chunk_size 的 10%～15%。这个比例不是固定值，需要根据文档语义密度调整。下面是一个基于 LangChain 的配置示例，你也可以换成其他切分框架：
from langchain.text_splitter import RecursiveCharacterTextSplitter
from transformers import AutoTokenizer
tokenizer = AutoTokenizer.from_pretrained("/path/to/embedding_model")
model_max_tokens = tokenizer.model_max_length
chunk_size = int(model_max_tokens * 0.7) # 先按 70% 目标设置
chunk_overlap = int(chunk_size * 0.15) # 重叠 15%
splitter = RecursiveCharacterTextSplitter.from_tokenizer(
tokenizer,
chunk_size=chunk_size,
chunk_overlap=chunk_overlap,
separators=["\n\n", "\n", "。", "！", "？", "；", "，", " ", ""],
)
new_chunks = splitter.split_text(original_document)这里的关键是分割符按中文语义顺序排列：先按段落，再按句号等。如果文档是技术手册或法律文本，可以用更长段落分割；如果文档是对话或笔记，则要缩小 chunk_size。
验证召回率变化
调参后必须用同一组查询做对比，否则无法判断是否改善。不要只看向量相似度的绝对值，而要看召回结果的排序和命中情况。建议跑一个简单的检索测试：
import numpy as np
# 假设 already_embedded_chunks 是切分并向量化后的数组，query_vec 是查询向量
def recall_at_k(query_vec, already_embedded_chunks, k=5):
scores = np.dot(already_embedded_chunks, query_vec)
top_k_idx = np.argsort(scores)[-k:][::-1]
return top_k_idx, scores[top_k_idx]
# 使用 3～5 条不同查询，逐个打印命中 chunk 的原文片段
for q in query_list:
vec = embed_model.encode(q)
indices, scores = recall_at_k(vec, chunk_vectors, k=5)
print("查询:", q)
for idx in indices:
print("分数:", scores[idx], "内容预览:", chunks[idx][:50])重点观察：返回的 top-k 块是否覆盖了查询的语义核心，有没有因切块导致关键句被切断。同时检查是否有大量无关块挤进前列——这通常说明 chunk_size 太小或重叠过大。
常见调整路径和边界
如果超限块已经消失但结果仍差，可以尝试把 chunk_size 再调小，并同步降低相似度阈值。如果文档里存在明确的锚点（如标题、编号），优先按这些结构切块，而不是纯固定长度。还要注意：更换 Embedding 模型后必须重新验证切分参数，因为不同模型上下文窗口差异很大。测试时至少准备十组能代表实际用法的查询，分批对比新旧切分结果。
整个优化需要人工介入：自动评估只能看出相似度分数分布，不能判断“语义是否完整”。建议每次修改后保存一份分块文件，抽查 3～5 个长文档的切割边界，确认没有切断关键短语或句子。当切分参数与模型窗口比例稳定后，召回率问题通常能收敛，但如果仍然不理想，就要回到文档清洗和查询改写环节，而不是继续调切分。