Erishen
-
从 SQLite 到 LLM 重排:一个 Rust RAG 服务的七层设计决策
做本地 RAG 的开发者,大概都经历过这样的折腾:想跑一个纯本地的文档检索服务,结果发现内存态索引重启就丢,得接持久化向量库;向量检索搞定了,又得配 Ollama 做重排;再后来发现检索质量不稳定,还得上 pgvector……最后部署的时候,容器镜像大得离谱。阅读全文 →
-
AutoGen PSE 架构解析:用 Planner/Specialist/Evaluator 模式构建可靠的多智能体协作系统
PSE 模式的灵感来自软件工程中的角色分工: Planner → 相当于 Tech Lead:拆解需求、制定计划、分配任务、做交付决策。不做具体执行。 Specialist → 相当于 Developer:负责编写具体的交付物。只执行被分配的任务。 Evaluator → 相当于 Code Reviewer:…阅读全文 →
-
从 RBAC 鉴权长成的小型微服务系统:Spring Cloud + 零依赖 JWT + CRM + 审计 + BFF
架构总览 7 个后端服务 + 1 个 Next.js 前端: 服务 端口 职责 eureka-server 8761 服务注册中心 config-server 8888 配置中心 gateway-service 4100 PEP:JWT 校验 + 权限裁决 + 审计旁路 + trace ID auth-se…阅读全文 →
-
用 React Three Fiber 打造会对话的 3D 数字人:架构与部署的真实踩坑记录
用 React Three Fiber 打造会对话的 3D 数字人:架构与部署的真实踩坑记录 把一个 LLM 接进 3D 场景,让一个 VRM 虚拟角色能听懂你说话、开口回应、眼神还跟着你转——这个想法挺酷,但真做起来会撞上一连串工程问题:Key 不能进前端、Serverless 函数有 10 秒硬上限、R3F 的 Canvas 不穿透 …阅读全文 →
-
本地优先的 AI 通讯录助手:把大模型请进地址簿,数据却不离家
本地优先的 AI 通讯录助手:把大模型请进地址簿,数据却不离家 痛点:通讯录里最缺的不是存储,是"上下文" 每个人的手机里都有一份通讯录:几百个名字、号码、归属地。它能帮你拨号、发短信,却帮不了你一件更日常的事——知道该怎么跟某个人开口。 久未联系的老同事,过节该用什么样的语气? 一个只存了名字的客户,邀约时该怎么称呼才不尴尬? 脑子里闪…阅读全文 →
-
不信任执行者:桌面 AI 工作台的验证架构设计
ai-workbench 的工作流引擎把任务生命周期拆成三个角色,每个角色有独立的 system prompt,甚至可以用不同的模型配置: 三个角色的职责在 中严格界定: Planner:只做拆解,输出带验收标准的 JSON 计划,不执行任何命令 Specialist:只执行当前这一步,产出交付物,可以运行 shell 命令…阅读全文 →
-
让智能体从源头不说谎:用 LlamaIndex Workflow 构建 RAG 接地的 PSE 多智能体框架
直觉做法:状态图 + 条件边 如果你熟悉多智能体编排框架,可能会想到 LangGraph 的 StateGraph。它用显式的条件边来控制流程分支: 每次流程分支都需要手动编写判断逻辑——Evaluator 通过后走哪条边、有问题时走哪条边,代码里到处是条件判断。 实际做法:事件驱动 + @step 装饰器 llamaindex-pse …阅读全文 →
-
LangGraph PSE: 用状态机显式建模 PSE 三角色协作
为什么需要显式的状态机? 多 Agent 框架有两种哲学:隐式流程和显式状态机。 CrewAI 的 流程属于前者——Agent 按顺序执行,但你无法在运行时查看中间状态、无法在某个节点插入自定义逻辑、更无法精确控制重试路径。当任务变复杂,黑…阅读全文 →
-
当 LLM 开始骗自己:一个用正则表达式守护文章可信度的多 Agent 框架
多 Agent 系统的信任危机 你有没有遇到过这种情况:让一个 LLM 审核另一个 LLM 的输出? 假设你搭建了一个三角色文章生成管道:Planner 负责规划结构,Specialist 负责撰写内容,Evaluator 负责审核质量。听起来很完美,对吧?但当你仔细审视 Evaluator 的工作时,会发现一个根本性的矛盾——Evalu…阅读全文 →
-
混合检索架构:当关键词遇上语义理解
从单一检索到混合策略 在传统 RAG 系统中,检索环节通常依赖向量相似度搜索。这种方式擅长捕捉语义相似性,但当用户查询包含精确术语、专有名词或特定格式时,纯语义检索往往会失效。 你有没有遇到过这样的场景:查询"IRR 计算公式",系统却返回了大量讨论"投资回报率概念"的文档,而真正包含公式细节的文档反而被排在后面?这是因为向量嵌入在编码时…阅读全文 →