被遗忘权
Definition
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
Summary
一项 …
欢迎使用 AI术语词典 — 一部全面的多语种人工智能术语参考工具。
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
一项 …
在人工智能中，当模型学习并放大训练数据中存在的社会偏见时，就会产生刻板印象。这可能导致歧视性结果，例如将某些职业与特定性别联系起来。
一种概括性的、往往过于简化的 …
课程学习模仿人类教育过程，以结构化的顺序呈现训练数据，通常从简单样本开始，并逐渐增加复杂度。这种方法有助于神经网络更好地收敛并提高泛化能力。
一种训练策略，模型先 …
模型提取涉及查询目标机器学习模型的 API，以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型，从而窃取知识产权或绕过安全限制。
一种攻击方式， …
数据最小化是一项核心的隐私原则，要求组织将数据收集限制在充分、相关且必要的范围内。在人工智能领域，这意味着设计能够减少不必要数据依赖的模型。
仅收集和处理特定目的 …
Wumpus World 是 Russell 和 Norvig 的 AI 教科书中引入的一个基于网格的环境。智能体必须在网格中导航以寻找金子，同时避开陷阱和一个名为 Wumpus …
XLM-RoBERTa（跨语言语言模型 RoBERTa）是由 Meta AI 开发的大规模多语言模型。它通过在一个涵盖 100 多种语言的多样化数据集上进行预训练， …
后门攻击涉及使用特定的模式（称为触发器）对机器学习模型的训练数据进行投毒。虽然模型在干净数据上表现正常，但在检测到触发器时会激活错误的行为，例如将特定图像错误分类为指定标签， …
零样本提示涉及直接通过文本提示要求预训练语言模型完成任务，而不提供任何少样本示例或进行额外的微调。该模型利用其在大规模数据上学习到的通用知识和指令遵循能力来生成响应， …
泽滕策略是一种基于规则的博弈方法，用于多智能体谈判。它计算智能体为推动其首选结果而愿意承担的最大风险，定义为智能体在坚持立场时可能遭受的效用损失与其在妥协时的效用损失之比， …
函数调用使大型语言模型能够通过生成指定执行哪个函数及其参数的结构化输出（如 JSON 对象）来与外部工具和 API 进行交互。
一种允许大语言模型输出结构化数据以 …
可解释性（或称可解释性）涉及使 AI 模型的内部工作原理和决策过程对人类透明且易于理解。这对于调试、确保公平性以及建立用户信任至关重要。
人类理解 AI 模型做出 …
人在回路（HITL）指在工作流程的各个阶段（如数据标注、模型评估或最终决策批准）需要人类干预的 AI 系统。这种方法确保了系统的可靠性、准确性和伦理合规性。
一种 …
梯度下降是一种用于寻找可微函数局部最小值的一阶迭代优化算法。在机器学习中，它沿梯度的反方向更新模型权重，以逐步降低损失。
一种迭代优化算法，通过调整模型参数来最小 …
越狱涉及设计特定的输入或提示，诱骗 AI 模型忽略其内置的安全指南并生成禁止的内容，例如仇恨言论、危险指令或非法建议。
一种旨在绕过 AI 模型安全过滤器和伦理约 …
在人工智能领域，公平性是一项关键的伦理指标，确保算法不会基于种族、性别或年龄等受保护属性而延续或放大社会偏见。它涉及在模型开发和部署过程中识别和减轻潜在偏差的努力。 …
联邦学习使组织能够在不共享敏感原始数据的情况下协作训练人工智能模型。与集中信息不同，模型被发送到本地设备，在那里进行局部学习，然后将更新后的参数聚合到全局模型中，从而在保护隐私的 …
这种方法利用大型语言模型的上下文学习能力，直接在提示词中提供几个说明性示例。与需要更新模型权重的微调不同，少样本提示通过展示期望的输出格式或逻辑，让模型在不重新训练的情况下适应新 …
少样本学习旨在使模型能够从寥寥几个示例中进行泛化，模仿人类的学习效率。它通常依赖于元学习策略，即模型先在一系列相关任务上进行预训练，从而获得快速适应新任务的能力，即使这些新任务只 …
在计算语境中，通量描述单位时间内通过给定区域的量转移速率。在人工智能和数据工程中，它通常与数据流有关，其中信息连续不断地移动和处理，强调实时性和高吞吐量，常见于流式数据处理场景。 …