被遗忘权
Definition
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
Summary
一项 …
欢迎使用 AI术语词典 — 一部全面的多语种人工智能术语参考工具。
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
一项 …
在人工智能中，当模型学习并放大训练数据中存在的社会偏见时，就会产生刻板印象。这可能导致歧视性结果，例如将某些职业与特定性别联系起来。
一种概括性的、往往过于简化的 …
课程学习模仿人类教育过程，以结构化的顺序呈现训练数据，通常从简单样本开始，并逐渐增加复杂度。这种方法有助于神经网络更好地收敛并提高泛化能力。
一种训练策略，模型先 …
模型提取涉及查询目标机器学习模型的 API，以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型，从而窃取知识产权或绕过安全限制。
一种攻击方式， …
数据最小化是一项核心的隐私原则，要求组织将数据收集限制在充分、相关且必要的范围内。在人工智能领域，这意味着设计能够减少不必要数据依赖的模型。
仅收集和处理特定目的 …
Wumpus World 是 Russell 和 Norvig 的 AI 教科书中引入的一个基于网格的环境。智能体必须在网格中导航以寻找金子，同时避开陷阱和一个名为 Wumpus …
XLM-RoBERTa（跨语言语言模型 RoBERTa）是由 Meta AI 开发的大规模多语言模型。它通过在一个涵盖 100 多种语言的多样化数据集上进行预训练， …
后门攻击涉及使用特定的模式（称为触发器）对机器学习模型的训练数据进行投毒。虽然模型在干净数据上表现正常，但在检测到触发器时会激活错误的行为，例如将特定图像错误分类为指定标签， …
零样本提示涉及直接通过文本提示要求预训练语言模型完成任务，而不提供任何少样本示例或进行额外的微调。该模型利用其在大规模数据上学习到的通用知识和指令遵循能力来生成响应， …
泽滕策略是一种基于规则的博弈方法，用于多智能体谈判。它计算智能体为推动其首选结果而愿意承担的最大风险，定义为智能体在坚持立场时可能遭受的效用损失与其在妥协时的效用损失之比， …
当神经网络（特别是在自监督对比学习框架中）将所有输入数据点映射到同一个固定的输出向量时，就会发生表征坍塌。这种平凡解虽然最小化了损失函数，但未能学习到有用的特征表示。 …
抵抗人工智能是指个人或实体为避免被 AI 算法影响、追踪或分类而使用的方法。这包括针对感知系统的对抗性攻击、保护隐私的数据处理技术以及旨在规避算法监控的策略。
旨 …
负责任的人工智能涵盖旨在减轻人工智能相关风险的原则和实践。它涉及审计模型偏见、确保决策的可解释性、保护数据隐私，并建立问责机制，以确保 AI 系统的社会影响是积极且可控的。 …
重参数化技巧是变分自编码器及其他概率模型中使用的一种基本方法。它通过将随机变量表示为确定性函数和独立噪声变量的组合，使得梯度能够流经随机节点，从而允许使用反向传播算法进行优化。 …
重排序是信息检索和推荐系统中用于提高准确性的策略。首先，一个快速但精度较低的模型检索出一个较大的候选集；随后，一个更慢但更复杂的模型对这些候选项进行重新排序，以优化最终结果的精确 …
递归自我改进是指人工智能系统理论上能够重写自身的源代码或架构，从而变得更聪明、更高效或具备更强能力的特性。
一种AI系统通过自我修改迭代增强自身智能或能力的过程。 …
在人工智能中，反思是一种范式，模型在最终确定输出之前会暂停并评估其生成过程或输出结果。这可能涉及检查逻辑一致性、事实准确性或遵循特定约束。
一种机制，允许AI模型 …
关系型数据挖掘侧重于从组织为多个相关表（而非单个扁平表）的数据库中提取有用信息。它利用实体之间的关系进行挖掘。
从由多个相互关联的表或实体组成的数据中发现模式和知 …
人工智能中的可靠性指系统行为随时间推移及在不同输入下的可信度和一致性。可靠的AI系统应能产生准确的结果，妥善处理边缘情况，并保持预测性。
指AI系统在指定条件下持 …
正则化是机器学习中一个关键概念，旨在不显著增加训练误差的情况下减少泛化误差。它通过阻止模型学习过于复杂的模式来发挥作用。
一组在训练过程中使用的技术，通过对损失函 …