LLM on LZY Blog https://niraya666.github.io/tags/llm/ Recent content in LLM on LZY Blog LZY Blog https://niraya666.github.io/img/基于大语言模型的%20Agent：科普向-assets/cover.webp https://niraya666.github.io/img/基于大语言模型的%20Agent：科普向-assets/cover.webp Hugo -- gohugo.io zh-CN Thu, 09 Jul 2026 19:03:00 +0800 SOTA 之后：agent-memory benchmark 测了什么，又测不了什么 https://niraya666.github.io/posts/agent-memory-benchmark-summary/ Thu, 09 Jul 2026 19:03:00 +0800 https://niraya666.github.io/posts/agent-memory-benchmark-summary/ 深入解析 agent-memory benchmark 全景：从 LoCoMo、LongMemEval 到 PersonaMem，拆解对话记忆、用户画像、多模态记忆的评测方法、指标体系和数据合成流水线。 拒绝“想太多”：大模型Thinking Budget控制方案解析 https://niraya666.github.io/posts/thinking-budget-0805/ Tue, 05 Aug 2025 20:12:00 +0800 https://niraya666.github.io/posts/thinking-budget-0805/ 分析大模型 overthinking 问题及 Thinking Budget 控制方案，比较主流模型 API 的推理长度和计算预算配置。 LLM 输出限制：Structured Outputs、受限编码和提示词工程 https://niraya666.github.io/posts/llm-%E8%BE%93%E5%87%BA%E9%99%90%E5%88%B6structured-outputs%E5%8F%97%E9%99%90%E7%BC%96%E7%A0%81%E5%92%8C%E6%8F%90%E7%A4%BA%E8%AF%8D%E5%B7%A5%E7%A8%8B/ Wed, 21 Aug 2024 14:49:00 +0800 https://niraya666.github.io/posts/llm-%E8%BE%93%E5%87%BA%E9%99%90%E5%88%B6structured-outputs%E5%8F%97%E9%99%90%E7%BC%96%E7%A0%81%E5%92%8C%E6%8F%90%E7%A4%BA%E8%AF%8D%E5%B7%A5%E7%A8%8B/ <p>在使用大型语言模型（LLM）时，我们常常面临一个挑战：如何从模型输出中准确提取自己所需的信息。例如，当我们希望模型输出 JSON 格式的数据时，由于模型生成的内容并不总是稳定，可能需要额外编写大量的正则表达式来匹配并提取其中的有效信息。然而，由于 LLM 的能力，导致其输出结构并不永远可靠。</p>