被遗忘权
Definition
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
Summary
一项 …
欢迎使用 AI术语词典 — 一部全面的多语种人工智能术语参考工具。
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
一项 …
在人工智能中，当模型学习并放大训练数据中存在的社会偏见时，就会产生刻板印象。这可能导致歧视性结果，例如将某些职业与特定性别联系起来。
一种概括性的、往往过于简化的 …
课程学习模仿人类教育过程，以结构化的顺序呈现训练数据，通常从简单样本开始，并逐渐增加复杂度。这种方法有助于神经网络更好地收敛并提高泛化能力。
一种训练策略，模型先 …
模型提取涉及查询目标机器学习模型的 API，以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型，从而窃取知识产权或绕过安全限制。
一种攻击方式， …
数据最小化是一项核心的隐私原则，要求组织将数据收集限制在充分、相关且必要的范围内。在人工智能领域，这意味着设计能够减少不必要数据依赖的模型。
仅收集和处理特定目的 …
Wumpus World 是 Russell 和 Norvig 的 AI 教科书中引入的一个基于网格的环境。智能体必须在网格中导航以寻找金子，同时避开陷阱和一个名为 Wumpus …
XLM-RoBERTa（跨语言语言模型 RoBERTa）是由 Meta AI 开发的大规模多语言模型。它通过在一个涵盖 100 多种语言的多样化数据集上进行预训练， …
后门攻击涉及使用特定的模式（称为触发器）对机器学习模型的训练数据进行投毒。虽然模型在干净数据上表现正常，但在检测到触发器时会激活错误的行为，例如将特定图像错误分类为指定标签， …
零样本提示涉及直接通过文本提示要求预训练语言模型完成任务，而不提供任何少样本示例或进行额外的微调。该模型利用其在大规模数据上学习到的通用知识和指令遵循能力来生成响应， …
泽滕策略是一种基于规则的博弈方法，用于多智能体谈判。它计算智能体为推动其首选结果而愿意承担的最大风险，定义为智能体在坚持立场时可能遭受的效用损失与其在妥协时的效用损失之比， …
它扩展了传统逻辑以涵盖代理性，允许系统表示信念、欲望和意图（BDI模型）。这种逻辑使智能体能够根据变化的环境动态规划行动。
代理逻辑是指用于建模自主智能体意图、目 …
对抗攻击通过向图像或文本等输入引入细微噪声，利用神经网络的漏洞，导致模型输出出现显著错误。这些攻击突显了模型在面临恶意输入时的脆弱性。
对抗攻击是一种技术，通过在 …
该领域既包括破坏模型的进攻性技术，也包括加固模型的防御策略。它涉及在对抗样本上训练模型以提高其韧性，这一过程被称为对抗训练。
对抗机器学习是一个研究领域，旨在研究 …
它作为多智能体系统的骨干，提供编排、监控和智能体间协调的工具。该框架确保智能体能够高效运行而不相互干扰。
智能体框架（Agent harness）是管理系统中多 …
这涉及使用数学方法确保智能体的行为符合预定义的约束，如安全边界或伦理准则。这对于在关键环境中运行的智能体尤为重要。
智能体验证是通过形式化方法证明自主智能体在所有 …
动作模型学习涉及智能体构建内部表示，以了解其行为如何将环境从一个状态转移到另一个状态。与被动观察不同，这种方法利用智能体自身的行动反馈来学习环境的变化规律。
一种 …
在路径查找和搜索问题中，可容许启发式函数提供了到达目标节点实际成本的下界。通过保证估计成本始终小于或等于实际成本，它确保了搜索算法（如A*）能找到最优解。
搜索算 …
人工智能中的问责制是指个人、组织和开发者有义务对人工智能技术的设计、部署及其后果承担责任。
该原则要求人工智能系统的开发者和运营者必须对其系统的结果和影响负责。 …
演员-评论家算法包含两个组件：演员负责更新策略以选择动作，评论家则通过估计价值函数来评估这些动作的质量。两者协同工作，以提高强化学习的稳定性和效率。
一种结合基于 …
主动学习通过允许模型选择最具信息量的实例进行人工标记，减少了所需标记数据的数量。与被动接收随机样本不同，算法会主动识别那些最能提升模型性能的数据点进行查询。
一种 …