https://niraya666.github.io/tags/alignment/ Recent content in Alignment on LZY Blog https://niraya666.github.io/img/基于大语言模型的%20Agent：科普向-assets/cover.webp https://niraya666.github.io/img/基于大语言模型的%20Agent：科普向-assets/cover.webp Hugo -- gohugo.io zh-CN Thu, 23 Jan 2025 15:21:00 +0800 https://niraya666.github.io/posts/rlhf-%E4%B9%8B%E8%B7%AF%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0%E5%A4%8D%E4%B9%A0%E4%B9%8B%E4%B8%8A%E7%AF%87/ Thu, 23 Jan 2025 15:21:00 +0800 https://niraya666.github.io/posts/rlhf-%E4%B9%8B%E8%B7%AF%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0%E5%A4%8D%E4%B9%A0%E4%B9%8B%E4%B8%8A%E7%AF%87/ <h2 id="写在前面">写在前面</h2> <p>决定开启一个新系列，是时候系统性地学习一下 Alignment、RLHF 等相关内容了。</p> <p>学习过程中，经常会在一些公式推导上卡住，可能是因为之前的基础不够扎实，加上学过的内容遗忘较多。 于是，希望通过这一系列的笔记，帮助自己系统地回顾RL、和学习RLHF等内容。（顺带把之前手写的笔记电子化）</p>