摄于 浦东美术馆

2025-01 月刊

值得关注的新模型 Deepseek R1 DeepSeek R1通过纯强化学习(RL)框架实现了推理能力的突破,首次验证了无需依赖传统监督微调(SFT)或蒙特卡洛树搜索(MCTS)等复杂方法,仅通过两阶段RL优化即可显著提升模型逻辑推理性能。其综合能力直接对标OpenAI的o1模型,在数学(MATH-500达97.3%)、代码生成等核心指标上实现部分超越,同时全面开源模型权重、训练技术文档及6个蒸馏版本(1.5B-70B),使开发者可灵活适配不同算力场景。尤为引人注目的是,该模型在训练中展现出自发反思与多步骤验证能力,研究者观察到其通过内部反馈机制主动修正推理路径的“顿悟时刻”,揭示了AI系统自我优化的新可能。此外,其研发成本仅为560万美元(基于2048块H800 GPU),相比同类模型降低1-2个数量级。 ...

January 27, 2025 · 20 min · LZY

关于月刊的诞生

这份月刊最初只是我的个人知识管理实验。过去一年里,我逐渐养成了每月底整理收藏夹的习惯——清理read-it-later 软件中里积压的链接,归档散落在各个平台的技术文章,把零碎的信息重新分类到Notion笔记中。 面对每天涌现的新模型、论文和开源项目,这种月度整理成了对抗信息焦虑的锚点。与其被FOMO(错失恐惧症)驱使着追逐每个热点,不如让内容先经历时间筛选。留在月刊里的,通常是经过两周沉淀后仍值得反复阅读的内容。 ...

January 9, 2025 · 2 min · LZY