端侧 KYC/AML RAG Copilot

问题

合规分析师要找到入职问题对应的政策依据，但不能把最终决定交给说不清出处的模型。

约束

• 整条流水线要能本地跑，并留一条不用下载模型的离线路径。
• 合成案例事实和政策原文要分开，不能混进同一份检索材料。
• 答案必须引用检索到的内容；证据不够就拒答，只做给人审的决策支持。

我做了什么

• 在做政策入库、按章节切块、本地索引、混合检索，以及带出处的回答。
• 接入 Microsoft Foundry Local，同时留着确定性哈希和模拟模型，方便离线开发和测试。
• 在搭评估：同一套题上比较 RAG、关键词检索和不检索，看检索、引用、拒答、任务是否做成，以及快慢。

怎么做的

• 政策规则当依据建索引，客户案例只当查询事实传入。
• 稠密检索和 BM25 一起排，少见实体尽量留住，生成后再核对引用的块编号。
• 用 CLI 和 Streamlit 把流程摊开，界面上写明这是给人审的，不是自动拍板。

怎么验

• 用带标注的 KYC/AML 题目，比较 RAG、关键词和不检索。
• 离线底线用确定性哈希嵌入、模拟 LLM 和 Pytest 来跑。
• 会看命中、召回、引用是否对、该拒答时有没有拒、任务有没有做成、冷热启动快慢；数字没测完之前不当成绩写。

现在到哪一步

• 还在做。仓库文档写了本地 RAG 怎么串、哪些事模型不能单独决定、评估打算怎么比。
• 真实嵌入器和本地小模型还没评完，所以这里不写最终分数，也不写成已经做完。

依据和链接

• 这是帝国理工硕士独立研究，目前以微软 Core AI 实习研究员身份推进。

  本人确认的现职；供作品集审阅的私有 IRP README

• 设计上政策依据和案例事实分开，并包含本地生成、核对引用、拒答和对比评估。

  供作品集审阅的私有 IRP README