被遗忘权
Definition
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
Summary
一项 …
欢迎使用 AI术语词典 — 一部全面的多语种人工智能术语参考工具。
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
一项 …
在人工智能中，当模型学习并放大训练数据中存在的社会偏见时，就会产生刻板印象。这可能导致歧视性结果，例如将某些职业与特定性别联系起来。
一种概括性的、往往过于简化的 …
课程学习模仿人类教育过程，以结构化的顺序呈现训练数据，通常从简单样本开始，并逐渐增加复杂度。这种方法有助于神经网络更好地收敛并提高泛化能力。
一种训练策略，模型先 …
模型提取涉及查询目标机器学习模型的 API，以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型，从而窃取知识产权或绕过安全限制。
一种攻击方式， …
数据最小化是一项核心的隐私原则，要求组织将数据收集限制在充分、相关且必要的范围内。在人工智能领域，这意味着设计能够减少不必要数据依赖的模型。
仅收集和处理特定目的 …
Wumpus World 是 Russell 和 Norvig 的 AI 教科书中引入的一个基于网格的环境。智能体必须在网格中导航以寻找金子，同时避开陷阱和一个名为 Wumpus …
XLM-RoBERTa（跨语言语言模型 RoBERTa）是由 Meta AI 开发的大规模多语言模型。它通过在一个涵盖 100 多种语言的多样化数据集上进行预训练， …
后门攻击涉及使用特定的模式（称为触发器）对机器学习模型的训练数据进行投毒。虽然模型在干净数据上表现正常，但在检测到触发器时会激活错误的行为，例如将特定图像错误分类为指定标签， …
零样本提示涉及直接通过文本提示要求预训练语言模型完成任务，而不提供任何少样本示例或进行额外的微调。该模型利用其在大规模数据上学习到的通用知识和指令遵循能力来生成响应， …
泽滕策略是一种基于规则的博弈方法，用于多智能体谈判。它计算智能体为推动其首选结果而愿意承担的最大风险，定义为智能体在坚持立场时可能遭受的效用损失与其在妥协时的效用损失之比， …
术语“Rather”本身是一个标准的英语副词，表示偏好或对比。在人工智能和大语言模型的具体领域中，它并不构成一个独立的技术概念。
在AI语境 …
基于人类反馈的强化学习（RLHF）是一种用于微调大型语言模型的方法，使其输出更好地符合人类的价值观和期望。它通常包括三个步骤：收集人类偏好数据、训练奖励模型以及使用强化学习算法（ …
强化学习（RL）是机器学习的一个分支，专注于智能体应如何在环境中采取行动以最大化累积奖励的概念。与监督学习不同，强化学习不依赖标记数据，而是通过试错和奖励信号进行学习。 …
强化是一种基本的心理和计算机制，智能体的行为由后果塑造。在机器学习中，它涉及为正确的行为提供正向反馈（奖励），从而引导智能体学习最佳策略。
强化是指通过奖励或惩罚 …
检索增强生成（RAG）结合了基于检索和基于生成的AI系统的优势。RAG不仅仅依赖预训练语言模型的参数，而是首先从外部数据源检索相关上下文信息，将其作为输入提供给模型，从而生成更准 …
在AI开发中，流程指将原始数据转化为可操作见解或模型所需的系统化工作流。这包括数据摄取、预处理、特征……等阶段。
为实现特定计算目标或结果而采取的结构化行动或步骤 …
在AI中，“率”最常指学习率，这是一个超参数，控制每次更新模型权重时，根据估计误差对模型进行调整的幅度。一个适……
频率或速度的度量，通常指优化中的学习率或令牌生 …
随机性是AI的基础，用于初始化模型权重、打乱数据集以及在训练过程中引入随机性以防止过拟合。由于计算机是确定性的，AI系统……
缺乏可预测模式的属性，通常在AI中通 …
提示词是与大型语言模型及其他生成式AI系统进行交互的主要接口。它定义了模型输出的上下文、语气和约束。有效的提示……
提供给生成式AI模型的输入文本或指令，以引发特 …
在人工智能领域，隐私指的是在数据收集、模型训练和推理阶段，保护敏感用户信息免受未经授权的访问或滥用。它涉及……
个人控制其个人信息在AI系统中如何被收集、使用和共 …