AI Safety on 中文AI术语词典https://terms-en.ai-term-hub.com/zh/tags/ai-safety/Recent content in AI Safety on 中文AI术语词典Hugozh-cnSat, 18 Jul 2026 11:44:45 +0000奇点研究https://terms-en.ai-term-hub.com/zh/terms/singularity_studies/Sat, 18 Jul 2026 11:34:08 +0000https://terms-en.ai-term-hub.com/zh/terms/singularity_studies/<h2 id="definition">Definition</h2> <p>奇点研究是一门新兴的学术学科，旨在调查假设的未来时刻（即人工智能超越人类智能）所带来的影响，从而导致不可控的后果。</p> <h3 id="summary">Summary</h3> <p>一门跨学科领域，考察未来技术奇点对社会、伦理和存在性影响的潜在后果。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>技术奇点</li> <li>超级智能</li> <li>生存风险</li> <li>超人类主义</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>制定人工智能治理政策</li> <li>评估人工智能开发中的伦理风险</li> <li>科技行业的长期战略规划</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/ai-alignment-ai%E5%AF%B9%E9%BD%90/">AI Alignment (AI对齐)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/superintelligence-%E8%B6%85%E7%BA%A7%E6%99%BA%E8%83%BD/">Superintelligence (超级智能)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/technological-uniqueness-%E6%8A%80%E6%9C%AF%E7%8B%AC%E7%89%B9%E6%80%A7/">Technological Uniqueness (技术独特性)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/existential-risk-%E7%94%9F%E5%AD%98%E9%A3%8E%E9%99%A9/">Existential Risk (生存风险)</a></li> </ul>欧文·埃文斯https://terms-en.ai-term-hub.com/zh/terms/owain_evans/Sat, 18 Jul 2026 11:29:14 +0000https://terms-en.ai-term-hub.com/zh/terms/owain_evans/<h2 id="definition">Definition</h2> <p>欧文·埃文斯是一位计算机科学家和教育家，目前与人工智能安全中心（Center for AI Safety）有关联，此前曾在 Anthropic 工作。他因在机械可解释性领域的贡献而广受认可，特别是在揭示大型语言模型内部运作机制和推理过程方面。</p> <h3 id="summary">Summary</h3> <p>欧文·埃文斯是一位著名的研究人员和讲师，以其在人工智能可解释性、机械可解释性以及评估大语言模型推理能力方面的工作而闻名。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>机械可解释性</li> <li>人工智能安全</li> <li>大语言模型评估</li> <li>推理基准测试</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>研究模型内部表示</li> <li>开发可解释性工具</li> <li>进行人工智能对齐教育</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/mechanistic-interpretability-%E6%9C%BA%E6%A2%B0%E5%8F%AF%E8%A7%A3%E9%87%8A%E6%80%A7/">Mechanistic Interpretability (机械可解释性)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/anthropic-anthropic%E5%85%AC%E5%8F%B8/">Anthropic (Anthropic公司)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/center-for-ai-safety-%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E5%AE%89%E5%85%A8%E4%B8%AD%E5%BF%83/">Center for AI Safety (人工智能安全中心)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/neural-network-visualization-%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E5%8F%AF%E8%A7%86%E5%8C%96/">Neural Network Visualization (神经网络可视化)</a></li> </ul>连贯外推意志https://terms-en.ai-term-hub.com/zh/terms/coherent_extrapolated_volition/Sat, 18 Jul 2026 11:10:38 +0000https://terms-en.ai-term-hub.com/zh/terms/coherent_extrapolated_volition/<h2 id="definition">Definition</h2> <p>连贯外推意志（CEV）是由埃利泽·尤德科夫斯基在人工智能安全与对齐背景下提出的概念。它建议先进的人工智能不应仅仅服从当前人类的命令，而应通过理想化的推理过程，外推并实现人类深层的、一致的价值观和愿望。</p> <h3 id="summary">Summary</h3> <p>一种人工智能目标设定，主张系统应根据经过理想化推理后的人类精炼愿望行事。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>AI对齐</li> <li>价值学习</li> <li>理想化人类偏好</li> <li>效用函数</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>通用人工智能（AGI）安全的理论框架</li> <li>超级智能系统的伦理准则</li> <li>关于机器道德的哲学讨论</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/ai%E5%AE%89%E5%85%A8-ai-safety/">AI安全 (AI Safety)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E4%BB%B7%E5%80%BC%E5%AF%B9%E9%BD%90-value-alignment/">价值对齐 (Value Alignment)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E8%B6%85%E7%BA%A7%E6%99%BA%E8%83%BD-superintelligence/">超级智能 (Superintelligence)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E5%8A%9F%E5%88%A9%E4%B8%BB%E4%B9%89-utilitarianism/">功利主义 (Utilitarianism)</a></li> </ul>