学术相关
EvoEmbedding: evolvable representations for long-context retrieval and agentic memory 1
当处理动态、序列、具有持续状态的长上下文情况时，RAG系统普遍表现不佳。主要原因有二：现有的方法主要孤立地提取和编码文本；现有的embedding模型主要在短的静态文本上通过对比学习优化。目前的具有优化方案主要考虑indexing和retrieval执行两个阶段。在indexing上将历史上下文转换为提取友好的数据库形式（coreference resolutioner，structured memories，metadata），在retrieval上常通过rewriting和引入reranker桥接语义gap。
本文引入EvoEmbedding，从表示上生成evolable的embedding（通过引入固定容量的潜记忆空间来保留进化的上下文状态）。
通过FIFO管理潜记忆队列。
在Qwen小模型上使用Multi-LoRA解耦记忆演化的表示生成能力。
技术技巧
Datawhale 邱汉宸丨最新！万字综述 Prompt 到 Loop 进化
- Prompt Engineering
- zero-shot, Few-shot, Instruction Prompting
- 定义问题 -> demonstration set -> 候选prompt -> 实测准确率 -> 成本/精度权衡 -> 持续迭代
- 自动化prompt优化：DSPy， APE
- 缺点：模型或业务调整需要处理沉重的技术栈
- Context Engineering
- 轻量化装配MVC，知识图谱RAG，即时检索Just-in-Time
- 依托Prompt Caching优化信息排列顺序
- 主要解决：信息匮乏、信息过载、上下文腐烂
- 缺点：缺乏执行与纠错能力
- Harness Engineering
- Agent = Model + Harness
- 环境资产与工具集（Tools，Skills，MCP，文件系统，安全沙箱，无头浏览器等）
- 控制与编排逻辑：子Agent派发，状态接力Handoff，模型路由
- 规则中间件：Compaction，Lint，Commit Gate等自动化Hooks
- 运行时观测：Trace链路，Token成本与Latency实时计量
- Agent = Model + Harness
- Loop Engineering
- 自主迭代：Loop = Cron + 决策器
- 自动触发层
- 并行隔离工作区
- 技能树资产
- Plugins/MCP
- 多Agent编排
- 记忆落盘
- 严格约束
- 触发条件，作用范围，具体行为，预算红线，停止条件，上报通道
- 熔断器，看门狗
- 自主迭代：Loop = Cron + 决策器
-
Nie, C., Fu, C., Feng, J., & Shan, C. (2026). EvoEmbedding: Evolvable representations for long-context retrieval and agentic memory (Version 2). arXiv. https://doi.org/10.48550/ARXIV.2606.21649 ↩