值得关注的模型和新技术

Claude Opus 4.8: Anthropic 对 Opus 系列的增量升级,强化编码、Agentic 任务、推理和知识工作表现,并在 Claude Code 中配套 effort control、dynamic workflows 和更低成本的 fast mode,重点改善长任务协作中的判断力、工具调用效率和不确定性标注。

TML-Interaction-Small / Interaction Models: Thinking Machines 发布的实时交互模型研究预览,采用多流 micro-turn 架构,让模型原生处理音频、视频和文本的连续输入输出,支持打断、并发说话、视觉主动响应和后台模型异步协作。

Dynamic Workflows in Claude Code: Claude Code 的动态工作流能力,可让 Claude 动态编写编排脚本,把大型工程任务拆成数十到数百个并行 subagents,并通过独立复核与收敛机制完成大规模迁移、审计和复杂代码库探索。

值得关注的开源项目

financial-services: Anthropic 面向金融服务场景发布的参考 agents、skills 和数据连接器集合,覆盖投行、权益研究、私募、财富管理、基金运营等工作流,可作为 Claude Cowork 插件或 Claude Managed Agents 模板部署。

agentmemory: 面向 AI coding agents 的持久化记忆系统,围绕真实世界 benchmark 设计,支持 Claude Code、Codex、Cursor、Copilot 等 agent harness 的跨会话记忆管理。

Understand-Anything: 将代码库转化为可探索、可搜索、可提问的交互式知识图谱,帮助 Claude Code、Codex、Cursor、Copilot、Gemini CLI 等 coding agents 更快理解项目结构和业务知识。

值得关注的研究和论文

AgenticQwen: Training Small Agentic Language Models with Dual Data Flywheels for Industrial-Scale Tool Use

arXiv:2604.21590

通过 Reasoning RL + Agentic RL 双数据飞轮,让小模型在工业级工具使用场景中持续获得更难训练任务,并在搜索、数据分析等真实 agent 系统里逼近更大模型的表现。

核心创新:Dual Data Flywheels

  • Reasoning Flywheel: 收集模型失败问题,用更强模型(Qwen3-235B)改写为更难变体,再通过多模型一致性过滤保留高置信样本。
    • 多样性保障: Self-Instruct 调整关键值、增加约束、引入新概念;Persona 注入把抽象问题改写成物理、化学等应用场景。
    • 验证机制: Qwen3-235B 独立求解 3 次,仅保留答案一致的样本,减少合成数据噪声。
  • Agentic Flywheel: 从线性工具任务出发,逐步扩展成多分支行为树,模拟真实应用中更复杂的决策路径。
    1. 线性任务初始化: 使用 SynthAgent 开源数据构造单一路径工作流。
    2. 行为树扩展: 每轮 RL 后注入条件分支,把线性流程扩展为多分支行为树。
    3. 分支转任务: 将每个分支转化为完整训练任务,包括环境状态、用户指令和 Agent SOP。
    4. 对抗性 Mock User: 故意误导模型走向错误分支,训练工具使用和流程判断的鲁棒性。

训练架构

  • Reasoning RL: 面向数学、搜索等多步推理任务,允许调用搜索和代码工具,基于最终答案正确性给二元奖励。
  • Agentic RL: 面向真实交互场景,模拟用户和工具环境,使用 rubric 判断可验证子目标是否达成。
  • 优化器: 使用 GRPO(Group Relative Policy Optimization),在多轮强化学习中稳定提升小模型的工具调用能力。

Contextual Agentic Memory is a Memo, Not True Memory

arXiv:2604.27707

论文认为当前多数 Agentic Memory 系统(RAG、向量库、scratchpad、上下文窗口管理)本质上是 lookup,而不是真正的 memory;它们能存取笔记,却不能像权重学习一样把经验内化为可泛化的能力。

“A person who records a lesson in a diary can retrieve it only if they consult the diary… A person who has internalized the lesson has it available everywhere. Agentic memory is the former; weight-based learning is the latter.”

维度 C-engineering(改变上下文) θ-learning(改变权重)
压缩方式 文本压缩,容量受限于上下文长度 L 权重空间压缩,容量随参数量增长
泛化机制 检索式,只能使用显式存在的内容 生成式,可重组权重编码的规则处理新输入
当前系统 MemGPT、RAG、Reflexion、Voyager、Generative Agents 预训练、微调、RL
生物学类比 海马体,快速情景存储 新皮层,慢速分布式规则表征

Generalization Gap Theorem(组合样本复杂度分离定理)

论文的核心理论贡献是证明:在冻结模型对组合操作符的 in-context 学习准确率有上限 a_bar < 1 时,检索型记忆和参数型记忆在组合泛化上存在样本复杂度分离。

Theorem 1: 在假设冻结模型对组合操作符的 in-context 学习准确率有上限 a_bar < 1 时:

  • 检索记忆下界: 需要 n_R = Ω(k^2) 个存储的组合样例才能达到目标泛化水平。
  • 参数记忆上界: 仅需 n_P = O((d + log(1/δ))/δ) 个样例即可达到相同水平。
  • 分离比: n_R / n_P = Ω(k^2/d),对于结构化操作符可达 Ω(k^2)。

这意味着:无论检索系统多强、上下文窗口多长,检索型 Agent 在组合新颖任务上的泛化能力都存在理论上限。

记忆投毒风险

  • 无状态 Agent: 单次会话被攻击概率为 p0。
  • 有记忆 Agent: 到时间 t 时被攻陷概率为 1 - (1-p0)^N(t),当 N(t) 增长时趋近 1。

论文借用 McClelland 和 O’Reilly 的 Complementary Learning Systems 理论指出,生物智能同时依赖快速情景存储和慢速权重固化;当前 AI Agent 只实现了前半部分,缺少 consolidation path。


arXiv:2605.15184

论文系统比较 grep、向量检索、Agent harness 和工具结果呈现方式之间的交互,指出在长对话记忆问答中,简单词法检索经常比向量检索更强,但最终效果取决于检索器、工具接口和 agent harness 的组合系统。

核心问题

grep vs vector 哪个更适合长记忆问答?不同 Agent harness 是否会改变结论?当无关上下文和噪声增加时,两类检索会如何退化?

实验设计

  • 同时比较检索方式、Agent harness 和工具结果呈现方式三者的交互:grep-only vs vector-only,Chronos 自定义 harness vs Claude Code、Codex、Gemini CLI 这类 provider-native CLI harness。
  • 工具结果呈现分为 inline 和 file-based/programmatic 两类:inline 模式把搜索结果直接追加进上下文;file-based 模式把结果写入文件,模型只看到路径或提示,需要主动读取或再搜索文件。
  • “噪声扩展”实验保留 oracle sessions,再逐步加入无关 distractor sessions,形成 s5、s10、s20、s30、full 等不同 session-limit 设置,观察 grep 和 vector 随无关上下文增加时的稳定性。
  • 实验数据来自 LongMemEval 的 116 问子集,每个问题对应多会话对话和 Chronos 预处理得到的结构化时间事件,检索对象既包括原始 dialogue turns,也包括显式日期、时间区间和相关时间跨度。

关键启发

这篇论文的价值不只是“grep 比向量强”,而是提醒 agent search 的效果不能脱离 harness 评价:结果如何被呈现、模型能否再次程序化处理结果、上下文噪声如何进入工具循环,都会改变同一个检索器的实际表现。


δ-mem: Efficient Online Memory for Large Language Models

arXiv:2605.12357

δ-mem 提出一种 状态小、可在线更新、并且能直接影响模型内部 attention 计算 的记忆机制:不把历史重新塞进 prompt,也不修改 backbone 参数,而是在冻结的 full-attention 模型旁维护一个固定大小的在线关联记忆状态。

方法概览

δ-mem 维护一个很小的 Online State of Associative Memory,论文实验中的状态矩阵只有 8 x 8。它通过 delta-rule 持续写入历史信息,生成时再从这个状态读出信号,形成对 attention 的低秩修正。

和 LoRA / adapter 的关键区别在于:LoRA 的低秩更新训练后是静态的,而 δ-mem 的低秩 attention correction 来自运行时不断变化的在线状态,所以同一套参数会因历史不同产生不同 steering 效果。

读写流程

流程可以概括为 读旧记忆 -> 用记忆修正 attention -> 写入新信息。

  • 对当前 hidden state 做低维投影,得到 memory query、memory key、memory value。query 和 key 经过 tanh 与 L2 normalization,用来减少长序列递归中的尺度漂移。
  • 模型根据当前 hidden state 产生写入门控 β 和保留门控 λ,控制每个维度写多少、忘多少。
  • 当前 token 用 memory query 读取旧状态:r_t = S_{t-1} q_t^m。由于状态矩阵大小固定,这一步成本不随历史长度增长。
  • δ-mem 把读出的记忆信号映射成两个 correction:一个加到 backbone query 上,另一个加到 attention output 上,通过 query-side correction 和 output-side correction 改变 attention 行为。
  • 写入时使用 gated delta-rule:旧状态先预测当前 key 对应的 value,再只把预测误差作为残差信息写回状态。

实验结果

论文报告 δ-mem 在保持 backbone 冻结的前提下,平均分达到 frozen backbone 的 1.10x、最强非 δ-mem 记忆 baseline 的 1.15x,在 MemoryAgentBench 和 LoCoMo 等 memory-heavy benchmark 上收益更明显。


Harnessing Agentic Evolution

arXiv:2605.13821

论文把“智能体进化 / 自我改进”的过程建模为一个可交互环境,让 meta-agent 不直接生成下一个候选答案,而是根据历史候选、反馈、失败、成本和轨迹,修改未来搜索过程本身。

AEvo 试图解决的不是“怎么再生成一个候选”,而是“怎么持续修正整个搜索机制”。它提出 harnessed meta-editing 框架:用外部 harness 固定工作区结构、保护评测器、记录候选分数和轨迹,并让 meta-agent 在稳定边界内编辑进化机制。

两种进化形态

  • Procedure-based evolution: AEvo 可以修改选择策略、优化算子、反馈摘要、预算分配、更新规则等。
  • Agent-based evolution: AEvo 可以修改技能、目标、工具、记忆、验证器、反馈格式和执行上下文。

两阶段循环

  • Meta-editing phase: meta-agent 检查当前工作区和累计历史,输出对机制的编辑,例如改 procedure 代码、prompt、skill、goal、tool、validator、notes;同时输出下一段进化的运行计划,包括迭代预算、停止条件和执行方式。
  • Evolution segment: 被修改后的机制连续产生多个候选,每个候选都通过 harness 控制的评测器评估,并把 artifact、分数、trace、失败信息、成本和来源写入历史。

在 procedure-based AEvo 中,系统选择当前最好的有效候选作为 parent,然后用一次 LLM rewrite 生成新候选,再调用固定评测器。在 agent-based AEvo 中,初始 agent 是基础 ReAct agent,后续 AEvo 不直接替它做任务,而是修改它未来会看到的技能文档、session goal、共享笔记、验证器、工具和上下文组织方式。

推荐内容

学习资源

agent-study: 36 章 AI Agent 全栈课程,从 ReAct 循环、Claude Code 逆向、MCP/A2A 协议到 RAG、DSPy 和生产可观测性,所有章节配套可运行 Python 示例,适合系统补齐 Agent 工程基础。

ai-engineering-from-scratch: 面向 AI engineering 的 from-scratch 学习项目,覆盖 LLM、agents、MCP、computer vision、RL、swarm intelligence 等主题,强调从理解到构建再到交付。

hands-on-modern-rl: An open-source, hands-on curriculum bridging the gap from basic RL concepts to LLM alignment, RLVR, and advanced Agentic systems.

Agent Skills 资源

taste-skill: 面向 Claude Code、Codex 等 coding agents 的 taste-oriented skill,目标是减少泛化、无聊、模板化输出,让 AI 在产品和前端生成中更重视品味与细节。

Agent 基础设施

AiToEarn: 面向多平台内容自动发布的 Electron + React 工具,支持抖音、快手、视频号、小红书等平台,适合作为 AI 内容生产到分发链路的自动化基础设施参考。

agent-governance-toolkit: Microsoft 发布的 AI Agent 治理工具集,覆盖策略执行、zero-trust identity、执行沙箱和可靠性工程,并对齐 OWASP Agentic Top 10 风险。


影音记录

精选歌单

Live演出

0503 Kraftwerk HK

0522 Yoni Maryraz Manchester(band on the wall)

0523 Jon Onabowu Manchester(band on the wall)

0526 Simon Phillips London(Ronnie Scott’s)

书&阅读摘录

信息的AI时代(二)——“我们”的重逢

布尔迪厄说,taste不是个人的,是阶级的。 … 每个阶级的taste,本质上是一种区隔——通过判断什么是好的、什么是俗的,来把自己和别的阶级划开。 … 阶级塑造taste的方式,是通过控制信息的可及性。 … 你的taste是被你这一辈子接触过、消化过的信息塑造出来的,而阶级决定了你接触的信息池。

阶级一旦形成,就开始保护自己的位置,而它最有效的工具,就是控制信息。神权抵制文字、贵族垄断教育、特定阶层独占 … 到了我们这个时代,信息区隔以一种全新的机制继续运作,肖莎娜·朱伯夫在2019年写了一本书来阐述这种运作方式:The Age of Surveillance Capitalism。 … 她把这种力量叫做工具主义权力(Instrumentarian Power):它不强迫你做什么,而是通过设计你的信息环境,让你自愿地走向某个方向。 … 从神权抵制文字、到贵族垄断教育、到布尔迪厄看到的阶级taste区隔,再到今天的工具主义权力,这是同一条脉络在不同时代的不同形态。

这一代AI技术,第一次把人类积累的几乎所有信息,压缩进了一个模型里。它意味着:那些原本被阶层、被地理、被语言、被教育系统隔开的知识,第一次有可能通过一种新的方式被普通人触及。 … 所以问题不是信息能不能被看到,而是它能不能真的进入一个人的taste。 … 他说阶级决定taste,是因为阶级决定了两件事:你能接触什么信息(获取),你能消化什么信息(理解)。互联网解决了第一件事,但没有解决第二件事。 … 互联网的搜索是关键词驱动的,你必须先知道要问什么。但消化信息真正的难点,恰恰是你不知道自己不知道什么。

信息消化的门槛,第一次有了被真正打破的可能。 但更关键的是第三件事——反馈。taste不是只靠看和听就能长出来的。它需要被实践、被试错、被一次次的反馈打磨。 … 真正限制人的,是实践需要的能力门槛——你要先会写代码,才能做产品;你要先懂设计,才能画出像样的东西;你要先有研究方法,才能进入一个领域。 … 你可以在能力还不完整的时候就开始实践,在实践中得到反馈,让taste真的长出来,而不是先等自己够格,再去尝试。 把这三件事合起来看:taste的获取、扩展、反馈,三条通路第一次同时被打开了。

AI会成为工具主义权力的更高级版本:它认识你的部分,然后用这个部分定义你的全部。墙会修得更高、更看不见。 但AI还有另一条路径,把选择权交回给用户。不是替用户做决定,而是激发用户参与到理解、判断、相遇的过程里来。

当我们谈论 FDE 时,我们在谈论什么?

FDE 是嵌入客户环境的工程师,背靠一个平台级产品,通过在现场解决客户的真实问题来发现产品应该长什么样。他的工作产物不属于单一客户,而是回流到平台,成为可服务更多客户的产品能力。

去掉平台,你是咨询师。不嵌入客户,你是传统产品团队。只做实施不做发现,你是系统集成商。产物不回流,你是外包。 … Flybridge 的 Daniel 有一个很精准的说法:把 FDE 想象成一个以人的形式存在的产品发现循环(a product discovery loop embodied as a person)。他在客户现场梳理工作流,挖掘隐藏的约束,构建一个粗糙但管用的方案,然后把发现的规律反馈回总部,由产品团队固化为可复用的功能。

If the FDE is billable, they are working for the project, not the product. 产物属于客户,不会回流到任何平台。每个项目从头来,线性增长。

他们必须是叛逆者,或者用 Palantir 联合创始人 Shyam Sankar 的话说,是 heretic(异端)。他们理解这个行业现在是怎么运作的,但同时认为现状不够好。 … 用户同理心、对商业战略的理解力和创造性解题能力。你要的不是完美代码,而是一个能在客户现场用粗糙但管用的方案快速交付结果的人。

这就是 FDE 和普通实施工程师的区别。实施工程师解决完问题就完了,FDE 解决完问题之后还要想:“这个方案能不能变成平台的一部分,让下一个人不用重来?”

这个人就是 FDE。他的角色不只是"去客户现场搞清楚需求”,而是主动制造 golden case。

能力远超采用,FDE 填的是这个 gap。

The next $1T company will be a software company masquerading as a services firm.

独家对话姚顺宇:请允许我小疯一下

就越觉得这件事蠢——人这一辈子也没多长,为什么要把自己的时间浪费在伺候老登身上?

要做有比较客观评价标准的事,要做对这个世界能够产生影响的事。

做物理的人会更想刨根问底,更想理解一个事儿,更想做事很系统。因为习惯了这种很系统性的,不管是做实验的方式,还是做理论的方式。但这也不是做物理人独特的。

因为很多算法设计并不独立于算法,它非常强的依赖于你的基础设施。

Idea is cheap。想法是便宜的。 很多想法,显然所有人都知道。难的是怎么把它变成一个一个小的、可实现的步骤,做出来。

Demis Hassabis:AGI 还缺什么,智能体到底行不行,下一个科学突破长什么样

他列出了三个未解问题:持续学习(continual learning,即模型在部署后持续从新经验中学习的能力)、长程推理、以及记忆的某些方面

他们的工作假设是:前沿模型发布半年到一年后,同等能力就会出现在边缘级小模型上。

他的论点是:要达到 AGI,你必须有一个能主动解决问题的系统,智能体就是通向 AGI 的路径。 但目前,智能体在“完整任务”上还不够好,主要是因为它们不能在具体使用环境中持续学习和适应。缺乏持续学习是智能体无法做到“交付后不管”(fire and forget)的根本原因。

某种人类的品味和执着。工具降低了执行门槛,但创造力本身还没有被替代

推理可能永远不会真正免费。他引用了杰文斯悖论(Jevons’ paradox):当某种资源的使用效率提高时,需求反而会增加,最终消耗掉所有效率收益。

The next biggest moat in AI

The shape of the company itself is becoming the moat. Great companies are organizational inventions

None of these companies fit the boxes that existed before them. None of the people who built them did either. Great companies are not just places where talented people go. They are structures that let a certain kind of talent finally express themselves.

Shape determines who can exist there The best companies in the world do not only compete on category, market, or compensation. They compete on identity. Ambitious people tend to value a few things intensely: feeling special, being close to power, becoming undeniable, staying full of optionality, belonging to a mission, being in the room where history bends but they often do not know which of these they are actually optimizing for yet.

It targets the quiet insecurity most high performers carry: the suspicion that their excellence is fragile, that someone else could probably do the job, that they have not yet been truly seen. It only works inside a shape small enough that one person actually can shift the company’s trajectory.

They want to feel they have something to prove.

For founders, the real question is not: how do we tell a better story? It is: what kind of person can only become themselves here?

The old talent market rewarded companies that made people feel chosen. The next one will reward companies built in shapes the old market could not have produced, and the people inside them will become something the old shapes could not have made possible.

Most Companies Aren’t Anywhere Near Ready for AI

Most of the frustration people have with AI not being able to do what they want is actually them not being able to describe what they want.

AI is about execution, and it’s quite powerless when it doesn’t know what to execute. Companies that know exactly what they want are thriving with AI. And the better the AI gets, the more they will crush it.

But this is a small percentage of companies, because only a small percentage of companies are self-aware and together enough to give AI proper instructions. You can’t optimize what you don’t understand. And it’s foolish to scale something that you shouldn’t be doing in the first place.

What’s hilarious, and easy to see, is that the companies AI is helping are somehow magically the same companies that already know what they’re doing.