准备开发一款具备RAG和Mem的超强本地知识库问答系统

原文链接：https://mp.weixin.qq.com/s/KAH-Kz2FjfDcfwnKI4P4xw 作者：咬定青松（蔓藤AI） 发布时间：2026年6月3日

摘要

作者接到企业定制私有知识库问答项目，目标是构建「数字人 + 校本知识库 + 教学宣教」一体化智能平台，面向金融学院四种场景——金融宣教、政策咨询、教学助学、统一运营。核心技术难点在于 RAG 与记忆系统（Mem）的打通，以及与现有问答对知识库的深度集成。本篇为 UI 交互展示，详细方案设计在后续文章。

项目需求拆解

四大核心场景

• 金融宣教：面向师生及宣教受众的知识传播
• 政策咨询：金融政策法规的精准问答
• 教学助学：教学资源的智能检索与辅助
• 统一运营：运营数据的持续迭代支撑

四条技术要求

1. 数字人定制：形象定制 + 声音定制，核心基础能力
2. 校本知识库：来源包括金融资料、政策法规、教学资源
3. RAG + 知识溯源：检索增强生成，精准定位知识，禁止常规 RAG 的知识截断问题
4. 实时性 + 记忆能力：实时响应 + 记住用户历史问答和偏好

核心难点

• 文件格式不统一：政策法规和教学资源来源庞杂
• 知识截断问题：常规 RAG 的 chunk 切分导致查询不全，必须解决
• RAG + Mem 打通：市面上没有可直接拿来即用的系统
• 与现有系统集成：原有问答对知识库需要技术方案重构

关键要点

RAG 要跟现有系统深度集成

作者明确指出：RAG 必须与现有系统深度集成才能保证响应及时性，不能直接用现成的 RAG 框架贴上去。这暗示需要自研或深度定制检索管线。

Mem 记忆系统

不仅是记录历史问答，还要记住用户偏好等信息，跟 RAG 检索融合——这在工程上是一个非平凡的挑战。

数字人作为基础能力

数字人不是炫技，是整个系统的交互层载体。形象和声音定制是基础能力，知识库问答是上层应用。

评注

这篇文章偏需求概览和 UI 预览，技术方案细节还没有展开。但提出的几个工程问题很实在：

1. RAG 知识截断——chunk overlap 不够、检索返回片段碎片化是经典坑
2. RAG + Memory 打通——这个领域目前确实没有成熟的开源方案，LangChain 的 ConversationBufferMemory 太粗糙
3. 与现有问答对系统集成——技术重构的决策点在于：是增量改造还是重写检索层

等作者后续的方案设计文章出来再补充。