项目面试题：食安智能问答助手

实体语义对齐

这个是图数据库，我们主要存主体和关系，然后把主体的搜索关键词和向量单独存了一个主体，和实际主体建立关系，并且分别创建B-tree 精确索引 和 HNSW 向量索引，搜索的时候先关键词匹配 然后语义检索，查询到搜索实体就可以通过关系取出实体。

• 关键词：为了精确匹配
• 向量：实现语义对齐
  两级检索，如果关键词匹配到之后，就没必要消耗语义查询的性能了。

三个任务共享同一份输入（历史对话 + 当前问题），输出合并成一个 JSON 对象，用 JSON Schema 在推理层强制结构化输出。

主要解决 上下文改写、子查询检索、回溯问题检索（查询表述绕、核心意图需要提炼）

首先要控制不要错，识别错了，要做好校验，做好多层拦截；

• 结构化约束：JSON Schema 强制输出，格式错直接拦截，不会把非法意图放进流程
• 白名单校验：意图限定白名单，非法值走规则兜底（fallback 意图）
• 低置信兜底：识别不稳时触发澄清反问，让用户换种说法，不带错误意图去生成 Cypher

Cypher 校验失败（只读校验 / EXPLAIN 编译不过）时，把报错信息带回上下文让模型重新生成；仍失败则切换强模型（配置的 fallback API）纠错；最后仍不过就拒答，绝不拿未验证的语句去执行。

MySQL全量持久化，Redis滑动窗口只缓存最近20条，过期就从MySQL重建；取5轮对话注入LLM做指代改写和生成上下文，Redis故障自动降级直连MySQL，不影响主流程。

取5轮同时也是解决上下文过长，如果想压缩也可以调用轻量LLM压缩

每个会话用 user_id 加 session_id 拼成唯一键，Redis 里的对话记忆按键隔离，互不串扰；查历史时再校验会话归属，防止越权访问。

thread_id = f"{user_id}:{session_id}"（服务端生成 uuid）。

基于 SSE + asyncio.Queue 实现的。每个请求创建一个独立的异步队列，大模型侧开启流式推理，将 token 片段和进度信息逐条写入队列；FastAPI 端通过队列循环读取、逐条 yield 返回，最后（由 StreamingResponse ）以 SSE 格式（text/event-stream）推送给前端。

扩展详解

我们基于 SSE 实现：FastAPI 接口返回 StreamingResponse，媒体类型为 text/event-stream。每个请求创建独立的 asyncio.Queue，后台任务执行 LangGraph 工作流，各节点通过 call_soon_threadsafe 把进度事件安全推入队列，接口逐条 yield 下发；前端以 stream=True 逐行读取并解析，实时渲染进度和最终答案。

支撑细节（追问时用）：

• 事件类型分 msg/timing/reply/error/done，done 通知前端结束

• 设置 Cache-Control: no-cache、X-Accel-Buffering: no 防止代理缓冲导致"假流式"

• call_soon_threadsafe 解决同步工作流节点跨线程写队列的线程安全问题

SSE 与 WebSocket 的区别：

• SSE：单向推送，基于 HTTP，简单、自动重连，最适合 AI

• WebSocket：双向通信，适合高频交互，但实现复杂（需自处理心跳/重连）

结论：仅需 AI 单向回复时，首选 SSE。

保证输入质量，提示词做好约束，还是不行需要进行对应的微调

• 源头：Cypher 只读校验 + EXPLAIN 验证，保证喂给模型的数据本身是对的
• 约束：Prompt 立死规矩——只准基于查询返回的数据组织答案，查无数据必须明确说"未查到"，禁止编造
• 微调：靠领域微调强化格式遵从和拒答行为，只靠 Prompt 约束作用有限

我在提示词里强约束：只准基于检索到的内容回答，禁止用模型自有知识补充；查不到就答“信息不足”转人工，不硬编，从源头防幻觉。

NL2Cypher 场景天然要更严：

1. 只读白名单：模型生成的 Cypher 先校验，拦截 INSERT/UPDATE/DELETE 等写操作
2. 参数化查询：用户输入全部以参数注入，不拼接进语句
3. 编译验证：Neo4j EXPLAIN 预检，非法语句不执行
4. 权限服务端下发：辖区权限值由服务端注入，不信任前端传参

这个测试不像普通 RAG 用 RAGAS 就可以全面评估，好多需要自己写脚本测：

• 比较 Cypher 语句语法对不对，意图准不准
• 需要写脚本通过 explain 执行测试

Qwen3-8B 基座训了两个独立 LoRA：意图理解（输出 JSON）和 NL2Cypher（4.9 万条，语法通过率 64%→94.6%）。分两个是因为任务输出空间差异大，合并训练互相干扰，双适配器可独立迭代。

vLLM 单服务挂载两个适配器，按请求 model 字段路由；对外 OpenAI 兼容 API，业务侧同一个 url 不同模型名称。

写脚本用大模型批量生成 NL2Cypher 样本，然后语法检测（explain 通过才保留）→ 大模型语义检测 → 部分人工抽检，人工再提供部分真实数据混入。

合成数据 epoch 控制在 1.2，防过拟合。