https://terms-en.ai-term-hub.com/zh/tags/values/Recent content in Values on 中文AI术语词典Hugozh-cnSat, 18 Jul 2026 11:44:44 +0000https://terms-en.ai-term-hub.com/zh/terms/alignment/Sat, 18 Jul 2026 07:43:58 +0000https://terms-en.ai-term-hub.com/zh/terms/alignment/<h2 id="definition">Definition</h2> <p>对齐关注的是确保 AI 系统执行人类真正希望它做的事情，而不仅仅是字面上要求它做的事。它涉及诸如来自人类反馈的强化学习（RLHF）等技术，旨在缩小模型输出与人类期望之间的差距，提高安全性和有用性。</p> <h3 id="summary">Summary</h3> <p>确保 AI 系统的目标和行为与人类价值观及意图相一致的过程。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>RLHF (来自人类反馈的强化学习)</li> <li>价值加载</li> <li>意图匹配</li> <li>奖励建模</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>调整聊天机器人的礼貌程度</li> <li>确保摘要的事实准确性</li> <li>防止越狱攻击利用</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/ai-safety-ai-%E5%AE%89%E5%85%A8/">AI Safety (AI 安全)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/rlhf-%E6%9D%A5%E8%87%AA%E4%BA%BA%E7%B1%BB%E5%8F%8D%E9%A6%88%E7%9A%84%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0/">RLHF (来自人类反馈的强化学习)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/ethics-%E4%BC%A6%E7%90%86/">Ethics (伦理)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/bias-%E5%81%8F%E8%A7%81/">Bias (偏见)</a></li> </ul>