解耦驱动的 AI Agent 运行底座
与 3D 认知记忆中枢
恪守物理彻底独立、API 契约驱动与零业务入侵。自研两阶段原子 Turn 压实、4-Tier 智能模型路由与 RRF + GraphRAG 时空记忆中枢,攻克生产级 LLM 长程工程顽疾。
Token 综合成本削减
Smart Model Router 4-Tier 动态分流
400 Bad Request 错误率
原子 Turn 完整性 + Compaction Seam
物理与业务彻底解耦
NestJS 底座与业务独立数据库物理隔离
GraphRAG 实体多跳推导
pgvector + 全文 RRF + 剧情时空衰减
3D 全息交互演练中心
通过宏观架构沙盘、中观微服务拓扑与微观核心攻坚机制,电影级 3D 空间动态还原工业级 Agent 底座设计与硬核突破
系统微服务拓扑与契约边界
Agent Runtime 底座与业务客户端彻底解耦,运行时数据与业务数据零牵扯。点击下方节点查看独立职责与数据流管线:
Agent Runtime 底座
NestJS / Express / Prisma / PostgreSQL
无业务侵入的通用 Agent 运行内核。负责 Session 状态机机管、ReAct 自主循环、4-Tier 动态模型路由与分层微沙箱。
认知记忆微服务
FastAPI / pgvector / tsvector (zhparser) / SQLAlchemy 2.0
独立的认知记忆中枢。结合 pgvector 向量检索与中文全文检索,提供 RRF 混合重排、GraphRAG 多跳实体关联与时序衰减。
Trace 调试平台
Next.js / React / @tanstack/react-virtual
基于虚拟滚动构建的高性能可观测性控制台。实时展现 Token 水位计、Working Memory 补丁、Compaction Seam 压实查看与 A2A 看板。
小说创作平台应用
Next.js / PostgreSQL / Glassmorphism UI
业务应用消费端。拥有独立业务数据库(NovelProject, Chapters),通过标准 HTTP/SSE API 消费底座能力,具备断点续写长程跑批能力。
微服务间通信契约 (Active Pipelines)
Agent Runtime 底座
agent-runtime (NestJS :3001)
微服务核心职责与架构定位
无业务侵入的通用 Agent 运行内核。负责 Session 状态机机管、ReAct 自主循环、4-Tier 动态模型路由与分层微沙箱。
核心技术攻坚与亮点
实现能力与接口边界
- ›Session 生命周期 (Suspend / Wakeup / Milestones)
- ›Smart Model Router 4-Tier 动态分流
- ›Tier 0~3 分层微沙箱执行与 CommandGuard
- ›Scenario DAG 有向图编排与断点热重载
生产级 Agent 底座应用场景
将两阶段原子压实、DAG 断点编排、GraphRAG 认知记忆与 4-Tier 动态路由等核心工程能力,转化为解决行业复杂痛点的落地生产力。
长文本创作与 IP 宇宙资产管理
IP Universe & Long-Form Content Engine
依托 GraphRAG 多跳实体拓扑、时空衰减剧透拦截与两阶段原子压实,实现百章长程自洽创作。
行业级 AI Agent 落地解决方案
依托通用 Agent Runtime 底座与独立认知记忆中枢,实现长文本自动化生产、跨智能体开放互联与万级 Token 可观测治理。
长篇小说长文本自动化生成引擎
长文本与业务落地XiaoShuo Studio · 100+ 章节长程一致性创作平台
针对大模型在数十万字长篇小说创作中出现的‘遗忘前文伏笔、设定冲突、文风漂移及多步长程批处理中断’等痛点,构建端到端自动化小说生产引擎。支持大纲推演、多写手竞标、正文润色与 EPUB 导出。
行业核心痛点与工程挑战 (Pain Points)
架构设计与自研攻坚方案 (Tech Pillars)
核心量化业务成效 (Key Results)
涉及技术栈与核心模块
方案严格遵循高内聚、低耦合与物理隔离原则,所有业务编排均通过底座通用 API 完成,确保运行时内核的无污染与通用性复用。
Token 水位预算治理与两阶段原子压实沙盘
传统暴力截断极易撕裂 Assistant-Tool 成对结构,引发 LLM API 400 崩溃。本系统自研原子 Turn 完整性算法与 Compaction Seam 缝合线,实现 4.8x 无损压实。
实时 Token 水位仿真滑块
预警水位 (Elevated)对历史 Tool Result 超过 1500 tokens 的部分生成内存指针
Trace Timeline 实时步骤流
源码级原理对比 (Code Comparison)
// ✅ 生产级原子 Turn 两阶段动态压实 (Atomic Turn + Compaction Seam)
function twoPhaseAtomicCompaction(messages: ChatMessage[], budget: number): ChatMessage[] {
// 1. 识别不可拆分的完整“原子轮次” (User -> Assistant[ToolCalls] -> ToolResults)
const atomicTurns = groupIntoAtomicTurns(messages);
// 2. 第一阶段:大输出指针提炼 (Large Output Refinement)
const prunedTurns = pruneToolOutputs(atomicTurns, MAX_TOOL_OUTPUT_TOKENS);
// 3. 第二阶段:生成 Compaction Seam 缝合线,保护 Session 核心记忆
if (calculateBudget(prunedTurns) > budget) {
const { preservedTurns, historicalSummary } = compactHistoryWithSeam(prunedTurns);
return [
systemPrompt,
{ role: 'system', name: 'compaction_seam', content: historicalSummary },
...preservedTurns
];
}
return flattenTurns(prunedTurns); // 🛡️ 100% 保证 ToolCall 与 ToolResult 成对存在
}市面多数 Agent Demo 仅在 3~5 轮简短测试下表现良好,一旦进入包含上百轮 Tool Call 的真实业务场景(如长篇生成、代码库多步重构),上下文必定溢出。 通过原子 Turn 划分 + Compaction Seam 缝合,既保留了上下文的语义连贯性,又 100% 避免了因孤立 ToolCall 导致的 LLM API 400 崩溃。
认知记忆微服务与 GraphRAG 时空多跳沙盘
单纯向量检索缺乏实体关联推导,且在长篇场景中极易召回时序错乱的“剧透”。本服务融合 pgvector 向量 + tsvector 全文 RRF 双路重排,叠加剧情时空指数衰减与 2-Hop 实体链推导。
GraphRAG 实体多跳关系拓扑图
召回重排得分与剧透拦截 (Ranked Output)
RRF + Decay 模式第 12 章:林夜潜入黑水帮地下金库,发现暗影议会留下的信物【幽夜徽记】,得知黑水帮受暗影议会操控。
林夜:主角,身负幽冥灵脉,表面为青云门外门弟子,实则暗中调查家族被灭真相。
暗影议会:跨大陆的古老隐秘组织,由七位执事掌控,目前通过黑水帮控制江南十三州地下情报网络。
【未来剧透剧情】第 80 章:暗影议会首领竟是青云门掌门陆乘风,林夜在此战中破境登仙。(当前进度:第 15 章)
RRF 综合全文关键词与向量语义,并通过 exp(-λ·Δt) 动态衰减远离当前故事节点的记忆,同时严格拦截大于当前剧情时间的未来实体,彻底解决大模型长文创作中的时空穿越与剧透错乱。
4-Tier 动态模型路由器与成本大盘
杜绝所有请求一律无脑调用最贵模型的浪费行为。内置多维任务特征分类器(代码密度、推理深度、上下文体量、工具链),实现精准按需分流。
任务特征自适应分类演示
Smart Classifier高密度工具调用、严格 JSON 契约、代码生成,命中 Tier 3 高精度 Pro 模型。
4-Tier 模型梯队与成本占比
综合降本 60%+核心工程特性深度解密
涵盖 Scenario DAG 断点热重载编排、Tier 0~3 分层微沙箱纵深防御以及 Google A2A 开放互联协议。
断点拦截、单步步过与运行时 Context 变量热注入
区别于传统黑盒执行的 LangGraph 或 CrewAI,本底座自研具备 IDE 级调试体验的 DAG 图执行器。支持在任意节点设置条件断点,挂起后可直接通过 API 实时修改运行时局部变量并步过恢复。
// 1. 发起变量热重载注入
POST /api/scenarios/session_882/inject
{
"nodeId": "calculate_plot_climax",
"injectContext": {
"override_villain": "陆乘风",
"climax_intensity": 9.8
}
}
// 2. 响应: 状态变更为 RUNNING,从断点处继续步过
HTTP/1.1 200 OK
{
"status": "resumed",
"currentNode": "render_chapter_text",
"stepSeq": 42
}功能成熟度矩阵与自动化交付体系
严格遵循 KISS 与第一性原理。全栈包含 Docker 容器化编排、Playwright 真实浏览器 UI 级 E2E 测试金字塔。
模块成熟度一览 (Maturity Matrix)
10 核心模块已落地| 功能模块 | 成熟度 | 能力边界与说明 |
|---|---|---|
| Session 生命周期与 ReAct 循环 | 🟢 稳定 (Stable) | 支持挂起/唤醒、信号通知、快照回滚与 waiting_user_input 交互流转 |
| SSE 打字机流与 after_seq 追赶 | 🟢 稳定 (Stable) | 写库后广播,单调递增 seq,30s 断开重连自愈与宽限期 |
| Smart Model Router 动态模型路由 | 🟢 稳定 (Stable) | 任务特征多维分类器,4-Tier 动态分流,节约 60%+ Token 成本 |
| Token 预算与两阶段原子压实 | 🟢 稳定 (Stable) | 4 级水位线治理,原子 Turn 截断与 Compaction Seam 缝合线,根治 400 错误 |
| Google A2A 协议与跨 Agent 互联 | 🟢 稳定 (Stable) | agent.json 名片发现、A2A 任务派发、Max-Hops 环路哨兵防死锁 |
| pgvector + tsvector 混合检索 (RRF) | 🟢 稳定 (Stable) | 双路召回 + 倒数排名融合 + 剧情时空指数衰减与剧透拦截 |
| Scenario DAG 有向图编排引擎 | 🟢 稳定 (Stable) | 分支条件求值、断点拦截挂起、单步步过与 Context 变量热注入 |
| Tier 0~3 分层微沙箱体系 | 🟢 稳定 (Stable) | SafeProxy -> WASM QuickJS -> Pyodide -> Docker 纵深防御与命令拦截 |
| Trace 虚拟滚动全链路可观测控制台 | 🟢 稳定 (Stable) | 基于 @tanstack/react-virtual 承载万级 Token 事件,水位仪表盘与 Seam 查看 |
| GraphRAG 实体多跳关系推导 | 🟡 可用 (Basic) | 支持 1~3 Hop 实体关系链推理与动态子图召回 |
UI 级 E2E 自动化测试规范
Playwright拒绝仅靠单测 Mock 假象。制定标准 E2E Runbook:首先 Canary 预检数据库与模型连通性,随后启动真实 Chromium 浏览器进行 DOM 交互与 SSE 流断言。
npm run e2e:canary && npm run e2e:ui一键容器化集群交付
Docker Compose支持多数据库独立初始化(Prisma Runtime 库 vs PostgreSQL pgvector 业务库),带全链路健康探针检查。
docker compose -f docker-compose.prod.yml up -d