值得关注的模型和新技术
值得关注的开源项目
DocETL: A system for agentic LLM-powered data processing and ETL
how-to-build-a-coding-agent: A workshop that teaches you how to build your own coding agent. Similar to Roo code, Cline, Amp, Cursor, Windsurf or OpenCode.
reader 3: Quick illustration of how one can easily read books together with LLMs.
Olmo 3： 不仅发布模型，还发布了用于构建模型的所有数据（Dolma 3）、代码、训练日志和中间检查点
Music Flamingo: Scaling Music Understanding in Audio Language Models Claude Scientific Skills：A set of ready to use scientific skills for Claude
值得关注的研究和论文
AgentFold: Long-Horizon Web Agents with Proactive Context Management
arXiv:2510.24699
如何有效进行context Management
目前context Management遇到的问题
- ReAct：只追加，不处理，随着任务变长，上下文会迅速膨胀
- 固定历史摘要：每步都总结；任何一次总结的失误都可能导致关键细节丢失
提出AgentFold：核心是主动式、多尺度的上下文管理
- 将context看作是一个“草稿纸”—需要主动管理和塑造的动态空间
- 引入Folding操作：agent不仅要决定下一步的行动，还要决定如何“折叠”和管理自己的历史记录
- 支持两种不同的粒度folding：
- Granular Condensation： 将最近一步的详细交互，压缩成一个精简的摘要
- Deep Consolidation：将过去连续的多步交互合并成一个总结
- 通过SFT让LLM学会根据当前任务状态，自主决定何时、对哪些内容、以及用何种粒度进行folding
Defeating the Training-Inference Mismatch via FP16
https://arxiv.org/pdf/2510.26788
LLM 在RL阶段普遍存在Training-Inference Mismatch问题
根源： Inference/Rollout 和Training/Gradient Computation 采用不同计算引擎，尽管这两个引擎在数学上是等价的，但由于硬件优化和数值精度的差异，它们会产生微小的数值偏差； 这种不匹配会导致Biased Gradient，容易出现性能突然下降和崩溃。
当前广泛使用的 BF16 格式是罪魁祸首：
- BF16 虽然动态范围大（与FP32相同），能有效防止预训练中的溢出和下溢，但其精度极低
- 低精度使得计算结果对微小的实现差异非常敏感，舍入误差在自回归生成过程中不断累积，最终导致训练和推理策略的概率分布产生显著差异
- 转而使用 FP16 进行RL微调
Deep Research Tulu
https://www.datocms-assets.com/64837/1763496622-dr_tulu_draft.pdf
创新点
RLER (Reinforcement Learning with Evolving Rubrics): 在训练过程中动态生成和更新评分标准,而非固定的评分标准
Initial Search-based Rubrics
在训练开始前
- 操作： 对于训练集中的每一个问题 x，系统首先调用搜索引擎获取相关的背景文档。
- 生成： 将问题 x 和搜索到的文档输入给一个教师模型（Rubric Generator），让其生成一组初始的评分标准 R_{persist}。
- 目的： 确保评分标准是**基于事实（Grounded）**的，而不是基于模型幻觉的。例如，如果问题是关于某个具体的医学基因突变，初始标准会明确要求“答案必须提到该突变会导致 FHM1 疾病”，而不是泛泛地要求“答案要准确”。
Evolving Rubrics
每一步训练中，评分标准会根据模型当前的表现进行更新
- 采样 (Rollout)： 待训练的模型（Policy Model）针对问题 x 生成 G 个不同的回答，每个回答都包含搜索过程和最终答案。
- 对比生成 (Contrastive Generation)：
- 系统将这 G 个回答（包括它们新搜索到的信息）连同当前已有的评分标准，一起扔给 Rubric Generator。
- 指令核心： 系统会问 Generator：“对比这些回答，找出区分好回答和坏回答的关键点是什么？有哪些新的优点是之前的标准没覆盖的？有哪些新的投机取巧（Reward Hacking）的行为？”
- 生成两类新标准：
- 正向标准 (Positive Rubrics)： 捕捉模型探索到的新知识或高质量推理。例如：“回答中引用了 2024 年最新的 X 论文来反驳旧观点。”
- 负向标准 (Negative Rubrics)： 捕捉模型新出现的错误模式。例如：“回答为了凑字数，大量复制粘贴了搜索结果中的无关段落。”
- 合并： 将新生成的标准 R_{new} 加入到当前的活跃评分标准池 R_{active} 中。
Rubric Buffer Management
如果一直添加新标准，计算量会爆炸，且很多标准可能失效。因此需要进行筛选。
- 计算区分度 (Discriminative Power)：
- 系统使用当前的评分标准池对那 G 个回答进行打分。
- 计算每个评分标准在 G 个回答上的得分方差 (Standard Deviation)。
- 筛选逻辑：
- 剔除无效标准： 如果某个标准对所有回答的打分都是 1（大家都做到了）或者都是 0（大家都做不到），说明这个标准在当前阶段没有区分度，直接剔除。
- 保留高价值标准： 按照方差从大到小排序，只保留前 K_{max} 个（例如 5 个）最具区分度的标准。
- 目的： 确保奖励信号始终关注模型当前最需要改进的地方（即那些模型有时候能做对、有时候做不对的地方）。
奖励计算与更新
最终的奖励信号由三部分组成，用于指导 GRPO 算法更新模型：
- 评分标准奖励： 由 LLM Judge 根据筛选后的评分标准对答案打分（0, 0.5, 1）。
- 引用奖励 (Citation Reward)： 检查引用的准确性（Precision）和召回率（Recall）。如果模型引用了不存在的文献或引用内容不支持论点，会受到惩罚。
- 格式奖励 (Format Reward)： 确保模型遵守
<think>,<call_tool>,<answer>等结构化标签。
Think in Diffusion, Talk in Autoregression
arXiv:2511.08923
AR 生成质量高，但必须逐个 token 串行生成
dLM支持并行生成多个 token，但生成质量不佳
创新点
在Speculative Decoding基础上，利用dLM进行并行的 Token Drafting，利用AR做Sampling/Verification
Single Forward Pass：利用 GPU 在内存受限场景下的Free Token Slots，在一次模型前向计算中，同时完成对上一步草稿的验证和对下一步内容的并行起草。
Nested Learning: The Illusion of Deep Learning Architectures
https://abehrouz.github.io/files/NL.pdf
如何解决LLMs静态性和持续学习能力缺失的问题
对此提出了 Nested Learning (NL，嵌套学习)
- 不将模型视为简单的层级堆叠，而是将其视为一组嵌套的、多层级的优化问题。每个组件（如注意力机制、前馈网络、优化器）都有自己的“更新频率”
- Linear Attention 被重构为一个两层优化问题：内层通过梯度下降更新记忆矩阵 M_t 以压缩上下文，外层通过梯度下降更新投影层 W_q, W_k, W_v
- Momentum被重构为一个试图记忆过去梯度的“元记忆模块”
HOPE 架构
- 使用了一种基于 Titans 和 Delta-rule的Self-referential学习模块。
- 引入了 CMS，包含一系列 MLP 块 (MLP^{(f_1)}, …, MLP^{(f_k)})。不同的块有不同的更新周期 C^{(\ell)}。
- 更新规则：参数 \theta 不是固定的，而是根据输入数据通过L2 regression 进行实时更新。这意味着模型在推理过程中也在进行某种形式的“训练”或“记忆压缩”。
推荐内容
Ultimate Guide to Vibe Coding V1.2
Supercharge your OCR Pipelines with Open Models
Google agent系列白皮书：
- introduction-to-agents
- Agent Tools & Interoperability with MCP
- Context Engineering: Sessions & Memory
- Agent Quality
- Prototype to Production
The GenAI Divide STATE OF AI IN BUSINESS 2025： GenAI鸿沟，企业在采用GenAI时普遍遇到的问题，和如何跨越鸿沟。
OpenAI：building-an-ai-native-engineering-team
影音记录
精选歌单
Live演出
11.15 Cory Wong
11.28 死亡搁浅 音乐会
书&阅读摘录
罗汉堂 | Diego Comin：什么将决定全球 AI 生产率的分化？
很多企业引入了新技术，却没有真正将其广泛地融入核心业务和工作流程。这种“拥有但未充分使用” 的现象，是导致全球生产力分化的深层原因
当前 AI 的 “拥有率” 和 “使用强度” 都仍然很低。未来，决定企业乃至国家生产率分化的，不是谁率先拥有 AI，而是谁能充分拥抱和使用 AI。
新技术究竟是如何推动生产率增长的（productivity growth）？要回答这个问题，我们需要从两个维度来理解技术扩散与生产率之间的关系。第一，是新技术被引入一个国家所需要的时间，这通常被称为‘采纳滞后’（adoption lag）；第二，当一项技术被引入后，它究竟在多大程度上被使用，也就是我们在经济学中所说的‘使用强度’或‘集约边际’（intensive margin）
这意味着，那些能够把 AI 融入核心流程、提升使用强度的企业，将在未来的生产率竞争中走得更快、更远；而那些虽然采纳了 AI，却没有真正使用或只做浅尝辄止的企业，即便站在同一技术前沿，也很难从 AI 中获益
因为，最终决定生产率差异的不在技术本身，而在技术的使用强度。
“AI 浏览器是最差的交互形态，搜索也是”
信息爆炸与有限人类：生而有涯，知也无涯
但问题是，底层基础设施并没有同步演化。所有浏览器的核心仍是“人”——必须由人来全程参与、观察、控制。它或许能让速度快几倍，但永远受制于人类自身的时间维度：我们是有限生物，有 24 小时、有睡眠、有寿命。
问题不在于 Agent，而在于浏览器本身——是浏览器这套架构需要被抛弃。
这其实回到一个核心概念——Intention（意图）。我们在互联网上常常忽略自己的真实意图，以为自己在交互，其实只是被算法牵着走。
Code execution with MCP: Building more efficient agents
As MCP usage scales, there are two common patterns that can increase agent cost and latency:Tool definitions overload the context window;Intermediate tool results consume additional tokens.
LLMs are adept at writing code and developers should take advantage of this strength to build agents that interact with MCP servers more efficiently.
企业 IT 部门是 AI 转型的最大阻力？| 任鑫 x 徐文浩
从MVP到MMP： AI产品的营销成本越来越贵，现在大家谈论的是MMP（Minimum Marketable Product），产品特性必须从设计之初就考虑好如何在社交媒体上传播 。
Agent和Workflow并非对立 。在对交付结果准确性要求高的B端场景，Workflow是必需的 ；而在C端，Agent的不确定性反而是“抽卡”式成瘾性的来源 。
不确定性的价值： AI的“智能感”并非来自100%准确，而是来自“意料之外” 。如同“抽卡”，不确定性会带来多巴胺奖励 。人们更喜欢AI提供自己无法产生的“全新维度”（如心理侧写、玄学分析）。
IT部门的阻力： 传统企业AI落地的一大阻力是其内部IT部门 。他们想主导这件事，但往往既缺乏外部公司的技术能力，也不懂内部业务，最终卡住流程 。
从特定场景开始自动化： 评估你公司内部的工作流，使用Cherry Studio 、N8N 或开源工具，从一个非常具体的需求，如分析云账单 、处理发票 开始构建内部Agent。