https://terms-en.ai-term-hub.com/zh/tags/security/Recent content in Security on 中文AI术语词典Hugozh-cnSat, 18 Jul 2026 11:44:45 +0000https://terms-en.ai-term-hub.com/zh/terms/model_extraction/Sat, 18 Jul 2026 11:38:39 +0000https://terms-en.ai-term-hub.com/zh/terms/model_extraction/<h2 id="definition">Definition</h2> <p>模型提取涉及查询目标机器学习模型的 API，以推断其内部结构、权重或决策边界。攻击者利用这些查询构建一个代理模型，从而窃取知识产权或绕过安全限制。</p> <h3 id="summary">Summary</h3> <p>一种攻击方式， adversaries 通过查询模型来重建其参数或创建代理副本。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>代理建模</li> <li>API 查询</li> <li>知识产权盗窃</li> <li>对抗性攻击</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>商业 AI API 的安全审计</li> <li>保护专有算法免受克隆</li> <li>研究针对模型提取的防御机制</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/membership-inference-%E6%88%90%E5%91%98%E6%8E%A8%E6%96%AD/">Membership Inference (成员推断)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/adversarial-examples-%E5%AF%B9%E6%8A%97%E6%A0%B7%E6%9C%AC/">Adversarial Examples (对抗样本)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/model-watermarking-%E6%A8%A1%E5%9E%8B%E6%B0%B4%E5%8D%B0/">Model Watermarking (模型水印)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/api-security-api-%E5%AE%89%E5%85%A8/">API Security (API 安全)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/watermarking/Sat, 18 Jul 2026 11:37:50 +0000https://terms-en.ai-term-hub.com/zh/terms/watermarking/<h2 id="definition">Definition</h2> <p>随着生成式人工智能产生越来越多的合成媒体，数字水印成为透明度和问责制的关键工具。它涉及改变数字内容——如图像、文本&hellip;</p> <h3 id="summary">Summary</h3> <p>人工智能中的数字水印涉及在生成的内容中嵌入不可见或可见的标识符，以证明其来源并将其与人类创作的材料区分开来。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>内容溯源</li> <li>隐写术</li> <li>深度伪造检测</li> <li>版权保护</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>识别人工智能生成的新闻文章</li> <li>保护数字艺术中的知识产权</li> <li>合成媒体的监管合规</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/deepfakes-%E6%B7%B1%E5%BA%A6%E4%BC%AA%E9%80%A0/">deepfakes (深度伪造)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/copyright-%E7%89%88%E6%9D%83/">copyright (版权)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/provenance-%E6%BA%AF%E6%BA%90/">provenance (溯源)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/synthetic_media-%E5%90%88%E6%88%90%E5%AA%92%E4%BD%93/">synthetic_media (合成媒体)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/sovereign_ai/Sat, 18 Jul 2026 11:34:33 +0000https://terms-en.ai-term-hub.com/zh/terms/sovereign_ai/<h2 id="definition">Definition</h2> <p>主权人工智能描述了一个国家或组织独立构建、部署和管理人工智能系统的能力，而不依赖外国云提供商或专有技术。这旨在维护数据主权、国家安全和技术自主权。</p> <h3 id="summary">Summary</h3> <p>一种战略方法，国家或实体开发和控制自己的AI基础设施和模型，以确保数据隐私和监管独立性。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>数据驻留</li> <li>本地计算</li> <li>监管自主权</li> <li>国家安全</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>政府云基础设施</li> <li>跨境数据保护</li> <li>国内科技产业发展</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/cloud-sovereignty-%E4%BA%91%E4%B8%BB%E6%9D%83/">Cloud Sovereignty (云主权)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/data-localization-%E6%95%B0%E6%8D%AE%E6%9C%AC%E5%9C%B0%E5%8C%96/">Data Localization (数据本地化)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/edge-computing-%E8%BE%B9%E7%BC%98%E8%AE%A1%E7%AE%97/">Edge Computing (边缘计算)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/digital-independence-%E6%95%B0%E5%AD%97%E7%8B%AC%E7%AB%8B/">Digital Independence (数字独立)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/slopaganda/Sat, 18 Jul 2026 11:34:08 +0000https://terms-en.ai-term-hub.com/zh/terms/slopaganda/<h2 id="definition">Definition</h2> <p>慢速宣传描述的是一种战略性的虚假信息形式，它依赖于重复、模糊性和长期曝光，而非病毒式的震惊战术。其目的是混淆受众、稀释真相并侵蚀&hellip;</p> <h3 id="summary">Summary</h3> <p>“Slow”（慢）和“Propaganda”（宣传）的合成词，指旨在通过长期、微妙的影响来侵蚀信任的虚假信息活动。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>虚假信息</li> <li>认知战</li> <li>叙事操纵</li> <li>信任侵蚀</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>分析政治干预活动</li> <li>开发媒体素养项目</li> <li>监控社交媒体以识别协调的不真实行为</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/hybrid-warfare-%E6%B7%B7%E5%90%88%E6%88%98%E4%BA%89/">Hybrid Warfare (混合战争)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/fake-news-%E5%81%87%E6%96%B0%E9%97%BB/">Fake News (假新闻)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/information-operations-%E4%BF%A1%E6%81%AF%E8%A1%8C%E5%8A%A8/">Information Operations (信息行动)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/cognitive-bias-%E8%AE%A4%E7%9F%A5%E5%81%8F%E5%B7%AE/">Cognitive Bias (认知偏差)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/robustness/Sat, 18 Jul 2026 11:32:26 +0000https://terms-en.ai-term-hub.com/zh/terms/robustness/<h2 id="definition">Definition</h2> <p>在AI安全与伦理中，鲁棒性指模型对意外输入或恶意操纵的抵抗力。一个具有鲁棒性的系统在输入数据包含噪声或受到干扰时，仍能正确运行并保持稳定的输出。</p> <h3 id="summary">Summary</h3> <p>人工智能模型在面对噪声数据、对抗性攻击或分布偏移时，保持性能和稳定性的能力。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>对抗性攻击</li> <li>分布偏移</li> <li>噪声容忍度</li> <li>模型可靠性</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>自动驾驶感知系统</li> <li>欺诈检测系统</li> <li>医疗诊断模型</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/adversarial_ml-%E5%AF%B9%E6%8A%97%E6%80%A7%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/">adversarial_ml (对抗性机器学习)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/model_reliability-%E6%A8%A1%E5%9E%8B%E5%8F%AF%E9%9D%A0%E6%80%A7/">model_reliability (模型可靠性)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/generalization-%E6%B3%9B%E5%8C%96%E8%83%BD%E5%8A%9B/">generalization (泛化能力)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/safety-%E5%AE%89%E5%85%A8%E6%80%A7/">safety (安全性)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/resisting_ai/Sat, 18 Jul 2026 11:32:14 +0000https://terms-en.ai-term-hub.com/zh/terms/resisting_ai/<h2 id="definition">Definition</h2> <p>抵抗人工智能是指个人或实体为避免被 AI 算法影响、追踪或分类而使用的方法。这包括针对感知系统的对抗性攻击、保护隐私的数据处理技术以及旨在规避算法监控的策略。</p> <h3 id="summary">Summary</h3> <p>旨在逃避人工智能系统检测、操纵或控制的策略和技术。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>对抗样本</li> <li>隐私保护</li> <li>算法规避</li> <li>反监控</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>对抗机器学习研究</li> <li>隐私保护工具开发</li> <li>安全红队测试</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E5%AF%B9%E6%8A%97%E6%94%BB%E5%87%BB/">对抗攻击</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E6%95%B0%E6%8D%AE%E9%9A%90%E7%A7%81/">数据隐私</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E6%B7%B7%E6%B7%86%E6%8A%80%E6%9C%AF/">混淆技术</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/ai-%E5%AE%89%E5%85%A8/">AI 安全</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/rate_limiting/Sat, 18 Jul 2026 11:31:50 +0000https://terms-en.ai-term-hub.com/zh/terms/rate_limiting/<h2 id="definition">Definition</h2> <p>速率限制保护 AI 服务和 API 免受滥用、过载和过度资源消耗的侵害。它通过限制吞吐量确保用户间的公平使用，并维持系统稳定性。常见的策略包括令牌桶或漏桶算法。</p> <h3 id="summary">Summary</h3> <p>一种工程控制机制，限制客户端在特定时间窗口内向服务发起的请求数量。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>API 保护</li> <li>吞吐量控制</li> <li>公平使用政策</li> <li>系统稳定性</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>大语言模型 (LLM) API 网关管理</li> <li>防止分布式拒绝服务 (DDoS) 攻击</li> <li>管理云计算成本</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E8%8A%82%E6%B5%81-throttling/">节流 (Throttling)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E6%9C%8D%E5%8A%A1%E8%B4%A8%E9%87%8F-qos/">服务质量 (QoS)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/api-%E7%BD%91%E5%85%B3-api-gateway/">API 网关 (API Gateway)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E8%B4%9F%E8%BD%BD%E5%9D%87%E8%A1%A1-load-balancing/">负载均衡 (Load balancing)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/novelty_detection/Sat, 18 Jul 2026 11:28:35 +0000https://terms-en.ai-term-hub.com/zh/terms/novelty_detection/<h2 id="definition">Definition</h2> <p>新颖性检测是一种机器学习任务，专注于识别不符合预期行为或已知类别的数据点。它通常以无监督方式运行，通过学习正常数据的分布来工作。</p> <h3 id="summary">Summary</h3> <p>一种无监督学习技术，用于识别与已知训练数据显著不同的新模式或未知模式。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>无监督学习</li> <li>异常检测</li> <li>离群点检测</li> <li>分布建模</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>网络安全入侵检测</li> <li>制造缺陷识别</li> <li>金融欺诈监控</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E5%BC%82%E5%B8%B8%E6%A3%80%E6%B5%8B/">异常检测</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E9%9A%94%E7%A6%BB%E6%A3%AE%E6%9E%97/">隔离森林</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E8%87%AA%E7%BC%96%E7%A0%81%E5%99%A8/">自编码器</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/native_language_identification/Sat, 18 Jul 2026 11:28:00 +0000https://terms-en.ai-term-hub.com/zh/terms/native_language_identification/<h2 id="definition">Definition</h2> <p>母语识别（NLI）是自然语言处理的一个子领域，专注于识别说话者学习的第一语言。与一般的语言检测不同，NLI 分析说话者在发音、语法结构和词汇选择上无意识的母语特征。</p> <h3 id="summary">Summary</h3> <p>自动从说话者的语音或文本样本中确定其母语的过程。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>说话人画像</li> <li>语言特征</li> <li>口音识别</li> <li>自然语言处理</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>生物特征安全认证</li> <li>个性化客户服务交互</li> <li>社会语言学人口统计分析</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E8%AF%AD%E8%A8%80%E6%A3%80%E6%B5%8B-language-detection/">语言检测 (Language Detection)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E8%AF%B4%E8%AF%9D%E4%BA%BA%E5%88%86%E7%A6%BB-speaker-diarization/">说话人分离 (Speaker Diarization)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E5%8F%A3%E9%9F%B3%E8%AF%86%E5%88%AB-accent-identification/">口音识别 (Accent Identification)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E6%B3%95%E5%8C%BB%E8%AF%AD%E8%A8%80%E5%AD%A6-forensic-linguistics/">法医语言学 (Forensic Linguistics)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/inauthentic_text/Sat, 18 Jul 2026 11:21:59 +0000https://terms-en.ai-term-hub.com/zh/terms/inauthentic_text/<h2 id="definition">Definition</h2> <p>非真实文本（Inauthentic text）指的是由人工智能系统或怀有欺骗意图的人类产生的书面材料，缺乏真实的人类经验或事实依据。它包括AI生成的垃圾邮件、捏造的新闻文章、虚假评论以及旨在误导受众的内容。检测此类文本对于维护信息生态系统的完整性和信任度至关重要。</p> <h3 id="summary">Summary</h3> <p>人为生成或操纵的文本内容，旨在欺骗读者关于其来源、作者身份或事实基础的信息。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>AI检测</li> <li>虚假信息</li> <li>作者身份验证</li> <li>内容完整性</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>抄袭检测系统</li> <li>事实核查与新闻业</li> <li>网络安全威胁分析</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/hallucination-%E5%B9%BB%E8%A7%89/">Hallucination (幻觉)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/deepfake-%E6%B7%B1%E5%BA%A6%E4%BC%AA%E9%80%A0/">Deepfake (深度伪造)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/content-moderation-%E5%86%85%E5%AE%B9%E5%AE%A1%E6%A0%B8/">Content Moderation (内容审核)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/watermarking-%E6%95%B0%E5%AD%97%E6%B0%B4%E5%8D%B0/">Watermarking (数字水印)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/differential_privacy/Sat, 18 Jul 2026 11:14:55 +0000https://terms-en.ai-term-hub.com/zh/terms/differential_privacy/<h2 id="definition">Definition</h2> <p>差分隐私通过向查询结果或模型参数添加经过校准的统计噪声，提供强有力的隐私保障。它量化了关于任何单个个体信息泄露的最大程度。</p> <h3 id="summary">Summary</h3> <p>一种严格的数学框架，确保包含或排除任何单个个体的数据不会对分析结果产生显著影响。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>隐私预算（Epsilon）</li> <li>噪声校准</li> <li>组合定理</li> <li>零知识证明</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>在敏感医疗记录上训练模型</li> <li>发布聚合统计数据而不泄露个人身份</li> <li>在不信任方之间安全共享数据</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E8%81%94%E9%82%A6%E5%AD%A6%E4%B9%A0-federated-learning/">联邦学习 (Federated Learning)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E5%90%8C%E6%80%81%E5%8A%A0%E5%AF%86-homomorphic-encryption/">同态加密 (Homomorphic Encryption)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E6%95%B0%E6%8D%AE%E5%8C%BF%E5%90%8D%E5%8C%96-data-anonymization/">数据匿名化 (Data Anonymization)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E9%9A%90%E7%A7%81%E4%BF%9D%E6%8A%A4%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0-privacy-preserving-ml/">隐私保护机器学习 (Privacy-Preserving ML)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/data_poisoning/Sat, 18 Jul 2026 11:12:24 +0000https://terms-en.ai-term-hub.com/zh/terms/data_poisoning/<h2 id="definition">Definition</h2> <p>这种对抗性技术旨在通过改变训练数据来破坏机器学习模型的完整性。通过引入细微的错误或有偏见的示例，攻击者可以使模型……</p> <h3 id="summary">Summary</h3> <p>数据投毒是一种安全攻击手段，恶意行为者向训练集中注入损坏或误导性数据，以降低模型性能。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>对抗性攻击</li> <li>模型完整性</li> <li>训练数据安全</li> <li>后门攻击</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>机器学习管道的安全测试</li> <li>理解开放数据集中的漏洞</li> <li>开发强大的防御机制</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/adversarial-examples-%E5%AF%B9%E6%8A%97%E6%A0%B7%E6%9C%AC/">Adversarial Examples (对抗样本)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/model-robustness-%E6%A8%A1%E5%9E%8B%E9%B2%81%E6%A3%92%E6%80%A7/">Model Robustness (模型鲁棒性)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/cybersecurity-%E7%BD%91%E7%BB%9C%E5%AE%89%E5%85%A8/">Cybersecurity (网络安全)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/federated-learning-%E8%81%94%E9%82%A6%E5%AD%A6%E4%B9%A0/">Federated Learning (联邦学习)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/cybersecurity/Sat, 18 Jul 2026 11:12:12 +0000https://terms-en.ai-term-hub.com/zh/terms/cybersecurity/<h2 id="definition">Definition</h2> <p>网络安全包括旨在保护网络、计算机、程序和数据免受攻击、损坏或未授权访问的技术、流程和实践。在AI背景下，它涉及确保AI模型本身的安全性（如对抗性鲁棒性），以及利用AI技术检测网络威胁和保护用户数据隐私。</p> <h3 id="summary">Summary</h3> <p>通过各种防御技术保护系统、网络和程序免受数字攻击、未授权访问和损害的做法。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>威胁防护</li> <li>数据隐私</li> <li>对抗性鲁棒性</li> <li>访问控制</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>利用AI检测恶意软件</li> <li>保护神经网络模型安全</li> <li>在云服务中保护用户数据</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/ethical-hacking-%E4%BC%A6%E7%90%86%E9%BB%91%E5%AE%A2/">Ethical Hacking (伦理黑客)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/encryption-%E5%8A%A0%E5%AF%86/">Encryption (加密)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/adversarial-machine-learning-%E5%AF%B9%E6%8A%97%E6%80%A7%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/">Adversarial Machine Learning (对抗性机器学习)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/content_provenance/Sat, 18 Jul 2026 11:11:27 +0000https://terms-en.ai-term-hub.com/zh/terms/content_provenance/<h2 id="definition">Definition</h2> <p>内容溯源是指对数字内容的来源、创建方式以及随时间推移的修改情况进行文档记录和验证。在人工智能领域，这对于打击（虚假内容）至关重要。</p> <h3 id="summary">Summary</h3> <p>数字资产来源、历史和所有权的可验证记录。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>监管链</li> <li>数字签名</li> <li>真实性验证</li> <li>元数据标准</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>检测AI生成的深度伪造内容</li> <li>验证新闻来源</li> <li>保护知识产权</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E6%B0%B4%E5%8D%B0%E6%8A%80%E6%9C%AF-watermarking/">水印技术 (Watermarking)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E6%95%B0%E5%AD%97%E7%89%88%E6%9D%83%E7%AE%A1%E7%90%86-digital-rights-management/">数字版权管理 (Digital Rights Management)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E4%BA%8B%E5%AE%9E%E6%A0%B8%E6%9F%A5-fact-checking/">事实核查 (Fact-checking)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E5%8C%BA%E5%9D%97%E9%93%BE-blockchain/">区块链 (Blockchain)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/anomaly_detection/Sat, 18 Jul 2026 11:04:49 +0000https://terms-en.ai-term-hub.com/zh/terms/anomaly_detection/<h2 id="definition">Definition</h2> <p>异常检测（也称为离群点检测）涉及分析数据以发现不符合预期行为的模式。它广泛应用于网络安全、欺诈检测和系统监控中。</p> <h3 id="summary">Summary</h3> <p>识别罕见项目、事件或观察结果的过程，这些结果与大多数数据显著偏离。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>离群点</li> <li>模式识别</li> <li>欺诈检测</li> <li>统计偏差</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>信用卡欺诈检测</li> <li>网络入侵检测</li> <li>工业故障诊断</li> </ul> <h2 id="code-example">Code Example</h2> <div class="highlight"><pre tabindex="0" style="color:#f8f8f2;background-color:#272822;-moz-tab-size:4;-o-tab-size:4;tab-size:4;"><code class="language-python" data-lang="python"><span style="display:flex;"><span><span style="color:#f92672">from</span> sklearn.ensemble <span style="color:#f92672">import</span> IsolationForest </span></span><span style="display:flex;"><span>model <span style="color:#f92672">=</span> IsolationForest(contamination<span style="color:#f92672">=</span><span style="color:#ae81ff">0.1</span>) </span></span><span style="display:flex;"><span>model<span style="color:#f92672">.</span>fit(data) </span></span></code></pre></div><h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/outlier-detection-%E7%A6%BB%E7%BE%A4%E7%82%B9%E6%A3%80%E6%B5%8B/">Outlier detection (离群点检测)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/machine-learning-%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/">Machine learning (机器学习)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/data-mining-%E6%95%B0%E6%8D%AE%E6%8C%96%E6%8E%98/">Data mining (数据挖掘)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/fraud-prevention-%E6%AC%BA%E8%AF%88%E9%A2%84%E9%98%B2/">Fraud prevention (欺诈预防)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/adversarial_attack/Sat, 18 Jul 2026 11:04:26 +0000https://terms-en.ai-term-hub.com/zh/terms/adversarial_attack/<h2 id="definition">Definition</h2> <p>对抗攻击通过向图像或文本等输入引入细微噪声，利用神经网络的漏洞，导致模型输出出现显著错误。这些攻击突显了模型在面临恶意输入时的脆弱性。</p> <h3 id="summary">Summary</h3> <p>对抗攻击是一种技术，通过在输入数据中添加微小且通常不可察觉的扰动，欺骗机器学习模型做出错误的预测。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>扰动</li> <li>模型鲁棒性</li> <li>白盒与黑盒</li> <li>逃避攻击</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>测试模型安全性</li> <li>生成用于训练的对抗样本</li> <li>分析计算机视觉系统中的漏洞</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/adversarial_machine_learning-%E5%AF%B9%E6%8A%97%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/">adversarial_machine_learning (对抗机器学习)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/model_robustness-%E6%A8%A1%E5%9E%8B%E9%B2%81%E6%A3%92%E6%80%A7/">model_robustness (模型鲁棒性)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/defense_mechanisms-%E9%98%B2%E5%BE%A1%E6%9C%BA%E5%88%B6/">defense_mechanisms (防御机制)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/gradient_based_attacks-%E5%9F%BA%E4%BA%8E%E6%A2%AF%E5%BA%A6%E7%9A%84%E6%94%BB%E5%87%BB/">gradient_based_attacks (基于梯度的攻击)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/adversarial_machine_learning/Sat, 18 Jul 2026 11:04:26 +0000https://terms-en.ai-term-hub.com/zh/terms/adversarial_machine_learning/<h2 id="definition">Definition</h2> <p>该领域既包括破坏模型的进攻性技术，也包括加固模型的防御策略。它涉及在对抗样本上训练模型以提高其韧性，这一过程被称为对抗训练。</p> <h3 id="summary">Summary</h3> <p>对抗机器学习是一个研究领域，旨在研究如何使机器学习模型对旨在欺骗它们的恶意输入保持鲁棒性。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>对抗训练</li> <li>鲁棒性</li> <li>泛化差距</li> <li>安全性</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>提高模型韧性</li> <li>AI系统的安全审计</li> <li>开发防御机制</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/adversarial_attack-%E5%AF%B9%E6%8A%97%E6%94%BB%E5%87%BB/">adversarial_attack (对抗攻击)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/defense_mechanisms-%E9%98%B2%E5%BE%A1%E6%9C%BA%E5%88%B6/">defense_mechanisms (防御机制)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/robustness-%E9%B2%81%E6%A3%92%E6%80%A7/">robustness (鲁棒性)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/privacy_preserving_ml-%E9%9A%90%E7%A7%81%E4%BF%9D%E6%8A%A4%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/">privacy_preserving_ml (隐私保护机器学习)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/ai_security_institute/Sat, 18 Jul 2026 11:02:40 +0000https://terms-en.ai-term-hub.com/zh/terms/ai_security_institute/<h2 id="definition">Definition</h2> <p>AI 安全研究所是专注于减轻人工智能技术相关风险的专门机构。这些研究所开展关于对抗性攻击、数据隐私等方面的研究。</p> <h3 id="summary">Summary</h3> <p>致力于研究、开发和推广保障人工智能系统最佳实践的组织。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>对抗鲁棒性</li> <li>风险缓解</li> <li>安全标准</li> <li>伦理 AI</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>开发大型语言模型的安全协议</li> <li>审计 AI 模型的漏洞</li> <li>制定行业范围内的安全指南</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/cybersecurity-%E7%BD%91%E7%BB%9C%E5%AE%89%E5%85%A8/">Cybersecurity (网络安全)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/model-robustness-%E6%A8%A1%E5%9E%8B%E9%B2%81%E6%A3%92%E6%80%A7/">Model Robustness (模型鲁棒性)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/ethics-committee-%E4%BC%A6%E7%90%86%E5%A7%94%E5%91%98%E4%BC%9A/">Ethics Committee (伦理委员会)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/compliance-framework-%E5%90%88%E8%A7%84%E6%A1%86%E6%9E%B6/">Compliance Framework (合规框架)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/prompt_injection/Sat, 18 Jul 2026 11:01:29 +0000https://terms-en.ai-term-hub.com/zh/terms/prompt_injection/<h2 id="definition">Definition</h2> <p>提示注入利用大语言模型解释用户指令的方式，通过在输入文本中嵌入隐藏或冲突的指令来 exploit 这一特性。这可能导致模型忽略其原始的系统设定或安全限制。</p> <h3 id="summary">Summary</h3> <p>一种对抗性攻击，恶意输入操纵 AI 模型以绕过安全过滤器或执行非预期命令。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>对抗性攻击</li> <li>系统提示词</li> <li>安全风险</li> <li>输入清洗</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>大语言模型安全测试</li> <li>聊天机器人安全性</li> <li>数据隐私保护</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E8%B6%8A%E7%8B%B1-jailbreaking/">越狱 (Jailbreaking)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E7%BA%A2%E9%98%9F%E6%B5%8B%E8%AF%95-red-teaming/">红队测试 (Red Teaming)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E6%8A%A4%E6%A0%8F%E6%9C%BA%E5%88%B6-guardrails/">护栏机制 (Guardrails)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/%E5%B9%BB%E8%A7%89-hallucination/">幻觉 (Hallucination)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/jailbreak/Sat, 18 Jul 2026 11:00:15 +0000https://terms-en.ai-term-hub.com/zh/terms/jailbreak/<h2 id="definition">Definition</h2> <p>越狱涉及设计特定的输入或提示，诱骗 AI 模型忽略其内置的安全指南并生成禁止的内容，例如仇恨言论、危险指令或非法建议。</p> <h3 id="summary">Summary</h3> <p>一种旨在绕过 AI 模型安全过滤器和伦理约束的提示工程技术。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>提示注入</li> <li>安全过滤器</li> <li>红队测试</li> <li>对齐</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>安全研究测试</li> <li>恶意生成有害内容</li> <li>评估模型鲁棒性</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/prompt-injection-%E6%8F%90%E7%A4%BA%E6%B3%A8%E5%85%A5/">Prompt Injection (提示注入)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/adversarial-attack-%E5%AF%B9%E6%8A%97%E6%94%BB%E5%87%BB/">Adversarial Attack (对抗攻击)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/alignment-%E5%AF%B9%E9%BD%90/">Alignment (对齐)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/red-teaming-%E7%BA%A2%E9%98%9F%E6%B5%8B%E8%AF%95/">Red Teaming (红队测试)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/federated_learning/Sat, 18 Jul 2026 11:00:03 +0000https://terms-en.ai-term-hub.com/zh/terms/federated_learning/<h2 id="definition">Definition</h2> <p>联邦学习使组织能够在不共享敏感原始数据的情况下协作训练人工智能模型。与集中信息不同，模型被发送到本地设备，在那里进行局部学习，然后将更新后的参数聚合到全局模型中，从而在保护隐私的同时实现协同智能。</p> <h3 id="summary">Summary</h3> <p>联邦学习是一种分布式机器学习方法，它在保持数据本地化的同时在去中心化设备上训练模型。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>数据隐私</li> <li>分布式训练</li> <li>模型聚合</li> <li>边缘计算</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>预测文本键盘</li> <li>医疗诊断协作</li> <li>金融欺诈检测</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/privacy-%E9%9A%90%E7%A7%81/">privacy (隐私)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/edge_ai-%E8%BE%B9%E7%BC%98ai/">edge_ai (边缘AI)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/distributed_systems-%E5%88%86%E5%B8%83%E5%BC%8F%E7%B3%BB%E7%BB%9F/">distributed_systems (分布式系统)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/differential_privacy-%E5%B7%AE%E5%88%86%E9%9A%90%E7%A7%81/">differential_privacy (差分隐私)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/deepfake/Sat, 18 Jul 2026 10:59:40 +0000https://terms-en.ai-term-hub.com/zh/terms/deepfake/<h2 id="definition">Definition</h2> <p>深度伪造是利用生成对抗网络（GAN）或自动编码器创建的超逼真音频或视频操纵内容。它们在虚假信息传播、隐私侵犯和身份盗用方面引发了重大的伦理和安全关切。</p> <h3 id="summary">Summary</h3> <p>使用人工智能和深度学习技术，将某人的外貌替换为另一人的合成媒体。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>生成对抗网络</li> <li>媒体操纵</li> <li>虚假信息</li> <li>取证检测</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>检测欺诈性的身份验证</li> <li>分析政治虚假宣传运动</li> <li>开发反深度伪造检测算法</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/gan-%E7%94%9F%E6%88%90%E5%AF%B9%E6%8A%97%E7%BD%91%E7%BB%9C/">GAN (生成对抗网络)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/misinformation-%E8%99%9A%E5%81%87%E4%BF%A1%E6%81%AF/">Misinformation (虚假信息)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/synthetic-media-%E5%90%88%E6%88%90%E5%AA%92%E4%BD%93/">Synthetic Media (合成媒体)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/computer-vision-%E8%AE%A1%E7%AE%97%E6%9C%BA%E8%A7%86%E8%A7%89/">Computer Vision (计算机视觉)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/data_protection/Sat, 18 Jul 2026 10:59:40 +0000https://terms-en.ai-term-hub.com/zh/terms/data_protection/<h2 id="definition">Definition</h2> <p>数据保护包括旨在保护个人数据和专有数据免受泄露和滥用的法律、技术和组织措施。在人工智能领域，这包括实施加密、访问控制和匿名化等技术，以确保合规性并维护用户隐私。</p> <h3 id="summary">Summary</h3> <p>在整个数据生命周期中，防止敏感信息遭受未经授权的访问、损坏或盗窃的过程。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>加密</li> <li>隐私合规</li> <li>访问控制</li> <li>匿名化</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>保护医疗人工智能中的患者健康记录</li> <li>在推荐系统中保护用户身份</li> <li>遵守欧盟公民数据的 GDPR 规定</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/gdpr-%E9%80%9A%E7%94%A8%E6%95%B0%E6%8D%AE%E4%BF%9D%E6%8A%A4%E6%9D%A1%E4%BE%8B/">GDPR (通用数据保护条例)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/privacy-preserving-ml-%E9%9A%90%E7%A7%81%E4%BF%9D%E6%8A%A4%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/">Privacy-Preserving ML (隐私保护机器学习)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/data-security-%E6%95%B0%E6%8D%AE%E5%AE%89%E5%85%A8/">Data Security (数据安全)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/ethics-%E4%BC%A6%E7%90%86/">Ethics (伦理)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/safe/Sat, 18 Jul 2026 10:54:27 +0000https://terms-en.ai-term-hub.com/zh/terms/safe/<h2 id="definition">Definition</h2> <p>AI安全性涉及实施约束和保障措施，以确保自动化系统行为可预测且不会造成意外的负面后果。这包括技术措施如冗余设计和紧急停止机制。</p> <h3 id="summary">Summary</h3> <p>指设计为不会对人类、财产或环境造成伤害的AI系统。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>伤害预防</li> <li>故障安全</li> <li>可预测性</li> <li>风险缓解</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>空中交通管制系统</li> <li>医疗诊断工具</li> <li>金融交易算法</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/safety-%E5%AE%89%E5%85%A8%E6%80%A7/">Safety (安全性)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/ethics-%E4%BC%A6%E7%90%86/">Ethics (伦理)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/alignment-%E5%AF%B9%E9%BD%90/">Alignment (对齐)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/reliability-%E5%8F%AF%E9%9D%A0%E6%80%A7/">Reliability (可靠性)</a></li> </ul>