https://terms-en.ai-term-hub.com/zh/tags/moderation/Recent content in Moderation on 中文AI术语词典Hugozh-cnSat, 18 Jul 2026 11:44:45 +0000https://terms-en.ai-term-hub.com/zh/terms/harmful_content/Sat, 18 Jul 2026 11:20:51 +0000https://terms-en.ai-term-hub.com/zh/terms/harmful_content/<h2 id="definition">Definition</h2> <p>有害内容是指可能造成身体、心理或社会损害的数字媒体或文本。在人工智能安全领域，检测并过滤此类内容至关重要，以防止模型生成&hellip;</p> <h3 id="summary">Summary</h3> <p>对个人或社会构成风险的信息，包括仇恨言论、暴力和非法行为。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>内容审核</li> <li>人工智能安全</li> <li>毒性检测</li> <li>伦理准则</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>社交媒体平台过滤</li> <li>自动化内容审查系统</li> <li>人工智能模型对齐训练</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/toxicity-%E6%AF%92%E6%80%A7/">toxicity (毒性)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/bias-%E5%81%8F%E8%A7%81/">bias (偏见)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/misinformation-%E8%99%9A%E5%81%87%E4%BF%A1%E6%81%AF/">misinformation (虚假信息)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/content_policy-%E5%86%85%E5%AE%B9%E6%94%BF%E7%AD%96/">content_policy (内容政策)</a></li> </ul>https://terms-en.ai-term-hub.com/zh/terms/content_filtering/Sat, 18 Jul 2026 11:11:15 +0000https://terms-en.ai-term-hub.com/zh/terms/content_filtering/<h2 id="definition">Definition</h2> <p>内容过滤涉及使用算法和规则来扫描、分类和控制呈现给用户的信息流。在人工智能语境下，这通常采用自然语言处理和计算机视觉技术来识别违规或特定类型的内容。</p> <h3 id="summary">Summary</h3> <p>基于预定义标准或分类模型，阻止或允许访问数字内容的过程。</p> <h2 id="key-concepts">Key Concepts</h2> <ul> <li>审核</li> <li>分类</li> <li>安全过滤器</li> <li>NLP/视觉分析</li> </ul> <h2 id="use-cases">Use Cases</h2> <ul> <li>社交媒体帖子审核</li> <li>电子邮件垃圾邮件和恶意软件检测</li> <li>设备上的家长控制</li> </ul> <h2 id="related-terms">Related Terms</h2> <ul> <li><a href="https://terms-en.ai-term-hub.com/en/terms/moderation-%E5%AE%A1%E6%A0%B8/">moderation (审核)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/spam-detection-%E5%9E%83%E5%9C%BE%E9%82%AE%E4%BB%B6%E6%A3%80%E6%B5%8B/">spam detection (垃圾邮件检测)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/safety-%E5%AE%89%E5%85%A8%E6%80%A7/">safety (安全性)</a></li> <li><a href="https://terms-en.ai-term-hub.com/en/terms/classification-%E5%88%86%E7%B1%BB/">classification (分类)</a></li> </ul>