被遗忘权
Definition
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
Summary
一项 …
欢迎使用 AI术语词典 — 一部全面的多语种人工智能术语参考工具。
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
一项 …
在人工智能中，当模型学习并放大训练数据中存在的社会偏见时，就会产生刻板印象。这可能导致歧视性结果，例如将某些职业与特定性别联系起来。
一种概括性的、往往过于简化的 …
课程学习模仿人类教育过程，以结构化的顺序呈现训练数据，通常从简单样本开始，并逐渐增加复杂度。这种方法有助于神经网络更好地收敛并提高泛化能力。
一种训练策略，模型先 …
模型提取涉及查询目标机器学习模型的 API，以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型，从而窃取知识产权或绕过安全限制。
一种攻击方式， …
数据最小化是一项核心的隐私原则，要求组织将数据收集限制在充分、相关且必要的范围内。在人工智能领域，这意味着设计能够减少不必要数据依赖的模型。
仅收集和处理特定目的 …
Wumpus World 是 Russell 和 Norvig 的 AI 教科书中引入的一个基于网格的环境。智能体必须在网格中导航以寻找金子，同时避开陷阱和一个名为 Wumpus …
XLM-RoBERTa（跨语言语言模型 RoBERTa）是由 Meta AI 开发的大规模多语言模型。它通过在一个涵盖 100 多种语言的多样化数据集上进行预训练， …
后门攻击涉及使用特定的模式（称为触发器）对机器学习模型的训练数据进行投毒。虽然模型在干净数据上表现正常，但在检测到触发器时会激活错误的行为，例如将特定图像错误分类为指定标签， …
零样本提示涉及直接通过文本提示要求预训练语言模型完成任务，而不提供任何少样本示例或进行额外的微调。该模型利用其在大规模数据上学习到的通用知识和指令遵循能力来生成响应， …
泽滕策略是一种基于规则的博弈方法，用于多智能体谈判。它计算智能体为推动其首选结果而愿意承担的最大风险，定义为智能体在坚持立场时可能遭受的效用损失与其在妥协时的效用损失之比， …
令牌限制定义了大型语言模型的上下文窗口大小约束，限制了同时可以分析或生成的文本量。这一架构边界影响内存管理、
AI模型在单个输入或输出序列中可处理的最大令牌数量。 …
工具使用使语言模型能够通过调用预定义函数（如计算器、搜索引擎或数据库查询）与外部软件环境交互。这种方法扩展了模
一种范式，AI代理通过选择和执行外部函数或API来 …
AI中的翻译指的是神经机器翻译，其中深度学习模型映射语言之间的语义表示。与基于规则的系统不同，现代方法学习上下文细微差别
将文本从源自然语言转换为目标自然语言，同 …
透明度确保利益相关者能够理解AI模型如何得出其输出，从而培养信任和问责制。它涉及披露训练数据起源、模型架构和
AI系统的决策过程、数据来源和局限性向用户开放且可理 …
无监督学习自主识别原始数据中的隐藏结构、聚类或分布。常见方法包括聚类、降维和生成建模。它是
一种机器学习技术，模型在无标签数据中学习模式，无需明确的指导或正确答 …
Softmax 广泛用于多分类任务中神经网络的输出层。它接收原始对数几率（logits）向量并对其进行归一化，使每个元素代表一个概率值。
一种数学函数，将任意实数 …
AI 工程中的测试涉及使用多样化的数据集严格评估模型，以识别偏见、错误和鲁棒性问题。它包括对代码组件的单元测试、集成测试等。
系统地评估 AI 模型在未见过数据上 …
监督微调（SFT）涉及采用大型预训练模型（如语言模型），并在较小的高质量、针对特定下游任务标注的数据集上继续训练该模型。
在特定数据集上进一步训练预训练模型，使其 …
在监督学习中，算法在带标签的数据集上进行训练，意味着每个输入示例都与正确的输出配对。目标是让模型学习输入与输出之间的潜在关系。
一种机器学习范式，模型基于带标签的 …
文本摘要将大量文本缩减为较短版本，而不丢失核心含义。它可以是抽取式的，即从源文本中选择重要句子；也可以是抽象式的，即生成新的概括性语句。
一项自然语言处理任务，生 …