EmDash AI Moderation — AI 内容审核插件

官方

概述

AI Moderation 插件将大语言模型引入内容审核流程。当评论提交或表单数据入库时，插件自动调用 AI 模型进行内容审核，检测垃圾信息、仇恨言论、广告链接等不当内容。审核结果可自动处理（直接拒绝或标记待审），也可作为辅助参考提交给人工审核。

支持配置多层审核策略：低风险内容自动放行，中风险内容标记待审，高风险内容直接拒绝。风险阈值和处理方式可在管理后台灵活调整，无需重启服务。

内置支持 OpenAI Moderation API、Anthropic Claude 和 Google Perspective API。也可通过自定义适配器接入其他 AI 服务或本地部署的模型。

管理后台提供审核队列界面，显示待审核的内容及 AI 的判断理由。管理员可一键批准或拒绝，操作会反馈给 AI 模型用于后续优化判断（如果使用的服务支持反馈机制）。

得益于大语言模型的多语言能力，插件天然支持中文、英文、日文等多种语言的内容审核，无需为不同语言配置不同的规则。

支持配置数据脱敏规则，在发送至 AI 服务前自动移除敏感个人信息（如邮箱、手机号）。所有审核请求和响应日志均可配置保留期限以满足数据合规要求。