SOTA 之后:agent-memory benchmark 测了什么,又测不了什么

深入解析 agent-memory benchmark 全景:从 LoCoMo、LongMemEval 到 PersonaMem,拆解对话记忆、用户画像、多模态记忆的评测方法、指标体系和数据合成流水线。

July 9, 2026 · 20 min · LZY

拒绝“想太多”:大模型Thinking Budget控制方案解析

分析大模型 overthinking 问题及 Thinking Budget 控制方案,比较主流模型 API 的推理长度和计算预算配置。

August 5, 2025 · 11 min · LZY

LLM 输出限制:Structured Outputs、受限编码和提示词工程

在使用大型语言模型(LLM)时,我们常常面临一个挑战:如何从模型输出中准确提取自己所需的信息。例如,当我们希望模型输出 JSON 格式的数据时,由于模型生成的内容并不总是稳定,可能需要额外编写大量的正则表达式来匹配并提取其中的有效信息。然而,由于 LLM 的能力,导致其输出结构并不永远可靠。 ...

August 21, 2024 · 12 min · LZY