AI 生成内容很方便，但「发出去的东西合不合规」是每一位内容运营者真正的风险点。今天我们把妙音 Sarasvati 的内容安全审核体系完整公开——标准向行业最高水平看齐，口径说清楚，接受监督。
审核标准：对齐阿里云内容安全体系
我们的审核标准全面对齐阿里云内容安全（国内头部云厂商的内容风控服务）的检测体系，覆盖 12 个标准风险类目：
- 涉政敏感
- 暴恐内容（枪支弹药、爆炸物、血腥暴力）
- 涉黄低俗（色情、性暗示）
- 违禁品（毒品、管制器具、非法交易）
- 赌博与诈骗引流
- 广告法违禁（绝对化用语、虚假宣传、医疗夸大）
- 辱骂攻击与网络暴力
- 歧视内容（民族、地域、性别、宗教、疾病）
- 个人信息泄露
- 侵权内容（抄袭、冒充、名誉权）
- 封建迷信
- 不实信息（编造法条政策、谣言）
处理口径：四级风险分级
每篇内容审核后按风险程度分四级处理：
| 风险等级 | 处理方式 |
|---|---|
| 高风险 | 直接拒绝发布，退还相关费用 |
| 中风险 | 可发布，但自动转人工复查，复查通过前不会自动发出 |
| 低风险 / 无风险 | 正常进入发布流程 |
两个设计原则也一并公开：
- 宁可人工复查，不轻易误杀：拿不准的内容判中风险转人工，而不是直接拒绝——正常的营销文案、产品功效说明不算违规
- 审核服务故障时不放行：审核系统异常时，内容自动转人工确认，不会「带病直发」
哪些内容会经过审核
全部。无论是 AI 生成的稿件、你通过 API 提交的内容，还是开放 API 的 `generate` 代生成模式，发布前都必须过这道审核。通过 API 调用时，被判定高风险的内容会直接拒绝并退费，接口会返回明确的原因。
接下来
我们已完成阿里云内容安全的技术接入（作为机器审核硬闸叠加在现有体系之上），将随客户规模增长适时启用，形成「机器硬闸 + 大模型审核 + 人工复查」的三层防线。
内容安全是内容基础设施的底线工程。对审核标准有任何疑问或建议，欢迎通过控制台「需求与 BUG」反馈。