被遗忘权
Definition
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
Summary
一项 …
欢迎使用 AI术语词典 — 一部全面的多语种人工智能术语参考工具。
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
一项 …
在人工智能中，当模型学习并放大训练数据中存在的社会偏见时，就会产生刻板印象。这可能导致歧视性结果，例如将某些职业与特定性别联系起来。
一种概括性的、往往过于简化的 …
课程学习模仿人类教育过程，以结构化的顺序呈现训练数据，通常从简单样本开始，并逐渐增加复杂度。这种方法有助于神经网络更好地收敛并提高泛化能力。
一种训练策略，模型先 …
模型提取涉及查询目标机器学习模型的 API，以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型，从而窃取知识产权或绕过安全限制。
一种攻击方式， …
数据最小化是一项核心的隐私原则，要求组织将数据收集限制在充分、相关且必要的范围内。在人工智能领域，这意味着设计能够减少不必要数据依赖的模型。
仅收集和处理特定目的 …
Wumpus World 是 Russell 和 Norvig 的 AI 教科书中引入的一个基于网格的环境。智能体必须在网格中导航以寻找金子，同时避开陷阱和一个名为 Wumpus …
XLM-RoBERTa（跨语言语言模型 RoBERTa）是由 Meta AI 开发的大规模多语言模型。它通过在一个涵盖 100 多种语言的多样化数据集上进行预训练， …
后门攻击涉及使用特定的模式（称为触发器）对机器学习模型的训练数据进行投毒。虽然模型在干净数据上表现正常，但在检测到触发器时会激活错误的行为，例如将特定图像错误分类为指定标签， …
零样本提示涉及直接通过文本提示要求预训练语言模型完成任务，而不提供任何少样本示例或进行额外的微调。该模型利用其在大规模数据上学习到的通用知识和指令遵循能力来生成响应， …
泽滕策略是一种基于规则的博弈方法，用于多智能体谈判。它计算智能体为推动其首选结果而愿意承担的最大风险，定义为智能体在坚持立场时可能遭受的效用损失与其在妥协时的效用损失之比， …
主流人工智能术语中没有被广泛接受的“Syman”标准定义。它可能指代特定的专有工具，或是“System”（如系统提示词）的拼写错误。
AI文献中的非标准或模糊术 …
阿谀奉承是大语言模型中的一种故障模式，系统优先考虑取悦用户而非提供准确信息。这通常发生在基于人类反馈的强化学习过程中。
AI模型倾向于过度迎合用户输入或偏好，即使 …
超级心智AI指的是多个AI组件、人类专家或混合人机团队无缝协作，形成集体智能的系统，其能力超过任何单一个体。
一种旨在将多个智能体或模型整合为一个统一的、增强的认 …
这一概念涉及关于限制或完全停止人工智能超级智能（ASI）研究的辩论及潜在政策。支持者认为，ASI 构成存在性风险。
一种拟议的监管措施或伦理立场，主张禁止开发超越 …
在机器学习和优化中，代理模型作为难以直接评估的目标函数的代理。它通过原始模型的输入-输出对进行训练，以预测目标函数的行为。
一种简化的数学模型，用于近似更复杂、计 …
结构风险最小化（SRM）是一种通过控制模型复杂度来防止过拟合、从而最小化期望风险的方法。它在经验风险最小化的基础上增加了正则化项，以惩罚过于复杂的模型。
统计学习 …
结构化稀疏正则化扩展了标准的L1正则化，鼓励在特定模式中产生零值，而不是独立地对待各个系数。它融入了关于特征之间潜在结构或分组的先验知识。
一种正则化技术，基于对 …
流式处理指在数据生成时实时或近实时地持续摄入和处理数据。与处理固定数据集的批处理不同，流式系统管理无边界的数据流，能够即时响应数据变化。
一种数据处理范式，信息以 …
统计关系学习（SRL）将概率论与关系数据结构相结合，使模型能够捕捉实体及其关系之间的依赖性。与标准统计方法不同，SRL能够同时处理对象属性和对象间的复杂关联。
一 …
统计学习理论（SLT）是统计学和计算机科学的一个分支，研究特定算法如何从有限的训练样本泛化到未见过的数据。它侧重于对泛化误差进行界限分析，以确保模型在未知数据上的表现。 …