被遗忘权
Definition
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
Summary
一项 …
欢迎使用 AI术语词典 — 一部全面的多语种人工智能术语参考工具。
被遗忘权使用户有权要求从数据库和 AI 训练集中移除其个人信息。在机器学习中实施这一权利具有挑战性，因为模型可能已经将从这些数据中学习到的知识固化在参数中。
一项 …
在人工智能中，当模型学习并放大训练数据中存在的社会偏见时，就会产生刻板印象。这可能导致歧视性结果，例如将某些职业与特定性别联系起来。
一种概括性的、往往过于简化的 …
课程学习模仿人类教育过程，以结构化的顺序呈现训练数据，通常从简单样本开始，并逐渐增加复杂度。这种方法有助于神经网络更好地收敛并提高泛化能力。
一种训练策略，模型先 …
模型提取涉及查询目标机器学习模型的 API，以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型，从而窃取知识产权或绕过安全限制。
一种攻击方式， …
数据最小化是一项核心的隐私原则，要求组织将数据收集限制在充分、相关且必要的范围内。在人工智能领域，这意味着设计能够减少不必要数据依赖的模型。
仅收集和处理特定目的 …
Wumpus World 是 Russell 和 Norvig 的 AI 教科书中引入的一个基于网格的环境。智能体必须在网格中导航以寻找金子，同时避开陷阱和一个名为 Wumpus …
XLM-RoBERTa（跨语言语言模型 RoBERTa）是由 Meta AI 开发的大规模多语言模型。它通过在一个涵盖 100 多种语言的多样化数据集上进行预训练， …
后门攻击涉及使用特定的模式（称为触发器）对机器学习模型的训练数据进行投毒。虽然模型在干净数据上表现正常，但在检测到触发器时会激活错误的行为，例如将特定图像错误分类为指定标签， …
零样本提示涉及直接通过文本提示要求预训练语言模型完成任务，而不提供任何少样本示例或进行额外的微调。该模型利用其在大规模数据上学习到的通用知识和指令遵循能力来生成响应， …
泽滕策略是一种基于规则的博弈方法，用于多智能体谈判。它计算智能体为推动其首选结果而愿意承担的最大风险，定义为智能体在坚持立场时可能遭受的效用损失与其在妥协时的效用损失之比， …
反向传播（Backpropagation），即误差反向传播，是一种用于人工神经网络的方法，旨在计算损失函数关于权重的梯度。它通过将误差信号从输出层向输入层反向传播，并利用链式法则 …
在 AI 伦理中，偏见指的是算法决策中的系统性且不公平的歧视，通常源于有偏见的训练数据或有缺陷的模型设计。这可能导致对特定人群的不利影响，因此在开发 AI 系统时需特别关注公平性 …
人工智能（AI）是指数字计算机或受计算机控制的机器人执行通常与智能生物相关的任务的能力。它涵盖了各种子领域，包括机器学习、自然语言处理等，旨在让机器具备感知、推理、学习和解决问题 …
思维链（Chain-of-Thought, CoT）提示是一种策略，引导大型语言模型在得出最终答案之前，逐步生成推理解释。通过将复杂问题分解为中间步骤，这种方法显著提高了模型在处 …
注意力机制使模型能够动态地权衡输入序列中不同元素的重要性。与平等对待所有输入数据不同，它会根据上下文分配不同的权重，从而让模型聚焦于最相关的信息部分，显著提升了对长序列数据的处理 …
AI 安全涵盖旨在确保自主系统以有益且对人类无害的方式行事的研究和实践。它解决诸如偏见、错误信息、安全性漏洞以及系统失控等风险，致力于构建可靠、可信赖且符合伦理的 AI 系统。 …
API 定义了一套用于构建软件和应用程序的协议与工具。在 AI 领域，API 使开发人员能够访问强大的模型（如大语言模型或图像生成器），而无需在本地托管这些模型，从而简化了集成过 …
对齐关注的是确保 AI 系统执行人类真正希望它做的事情，而不仅仅是字面上要求它做的事。它涉及诸如来自人类反馈的强化学习（RLHF）等技术，旨在缩小模型输出与人类期望之间的差距，提 …
提示工程涉及制作特定的输入（即提示），以从生成式 AI 模型中获取准确、相关且高质量的响应。它要求理解模型如何解释指令、上下文及约束条件，从而通过调整提示词的结构和措辞来最大化模 …
在 AI 中，智能体是代表用户或系统执行任务的实体。与仅对提示做出响应的被动模型不同，智能体具备规划能力，可以使用工具，并能根据其行动结果进行迭代和调整，从而更复杂地解决多步骤问 …