https://terms-en.ai-term-hub.com/zh/tags/adversarial-ml/Recent content in Adversarial ML on 中文AI术语词典Hugozh-cnSat, 18 Jul 2026 11:44:45 +0000https://terms-en.ai-term-hub.com/zh/terms/model_extraction/Sat, 18 Jul 2026 11:38:39 +0000https://terms-en.ai-term-hub.com/zh/terms/model_extraction/<h2 id="definition">Definition</h2> <p>模型提取涉及查询目标机器学习模型的 API，以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型，从而窃取知识产权或绕过安全限制。</p> <h3 id="summary">Summary</h3> <p>一种攻击方式， adversaries 通过查询模型来重建其参数或创建代理副本。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>代理建模</li> <li>API 查询</li> <li>知识产权盗窃</li> <li>对抗性攻击</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>商业 AI API 的安全审计</li> <li>保护专有算法免受克隆</li> <li>研究针对模型提取的防御机制</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/membership-inference-%E6%88%90%E5%91%98%E6%8E%A8%E6%96%AD/">Membership Inference (成员推断)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/adversarial-examples-%E5%AF%B9%E6%8A%97%E6%A0%B7%E6%9C%AC/">Adversarial Examples (对抗样本)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/model-watermarking-%E6%A8%A1%E5%9E%8B%E6%B0%B4%E5%8D%B0/">Model Watermarking (模型水印)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/api-security-api-%E5%AE%89%E5%85%A8/">API Security (API 安全)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/backdoor_attack/Sat, 18 Jul 2026 11:38:27 +0000https://terms-en.ai-term-hub.com/zh/terms/backdoor_attack/<h2 id="definition">Definition</h2> <p>后门攻击涉及使用特定的模式（称为触发器）对机器学习模型的训练数据进行投毒。虽然模型在干净数据上表现正常，但在检测到触发器时会激活错误的行为，例如将特定图像错误分类为指定标签，</p> <h3 id="summary">Summary</h3> <p>一种安全威胁，恶意行为者在训练期间将隐藏触发器嵌入 AI 模型，导致特定错误分类。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>数据投毒</li> <li>模型完整性</li> <li>对抗性机器学习</li> <li>触发模式</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>ML 流水线的安全测试</li> <li>开发防御过滤器</li> <li>审计第三方模型</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/adversarial-examples-%E5%AF%B9%E6%8A%97%E6%A0%B7%E6%9C%AC/">Adversarial Examples (对抗样本)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/data-poisoning-%E6%95%B0%E6%8D%AE%E6%8A%95%E6%AF%92/">Data Poisoning (数据投毒)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/model-robustness-%E6%A8%A1%E5%9E%8B%E9%B2%81%E6%A3%92%E6%80%A7/">Model Robustness (模型鲁棒性)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/clean-label-attacks-%E5%B9%B2%E5%87%80%E6%A0%87%E7%AD%BE%E6%94%BB%E5%87%BB/">Clean Label Attacks (干净标签攻击)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/resisting_ai/Sat, 18 Jul 2026 11:32:14 +0000https://terms-en.ai-term-hub.com/zh/terms/resisting_ai/<h2 id="definition">Definition</h2> <p>抵抗人工智能是指个人或实体为避免被 AI 算法影响、追踪或分类而使用的方法。这包括针对感知系统的对抗性攻击、保护隐私的数据处理技术以及旨在规避算法监控的策略。</p> <h3 id="summary">Summary</h3> <p>旨在逃避人工智能系统检测、操纵或控制的策略和技术。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>对抗样本</li> <li>隐私保护</li> <li>算法规避</li> <li>反监控</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>对抗机器学习研究</li> <li>隐私保护工具开发</li> <li>安全红队测试</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E5%AF%B9%E6%8A%97%E6%94%BB%E5%87%BB/">对抗攻击</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E6%95%B0%E6%8D%AE%E9%9A%90%E7%A7%81/">数据隐私</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E6%B7%B7%E6%B7%86%E6%8A%80%E6%9C%AF/">混淆技术</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/ai-%E5%AE%89%E5%85%A8/">AI 安全</a></li> </ul>