妙音 Sarasvati 对经平台发布的一切内容执行统一的内容安全审核—— 无论是平台 AI 生成的内容、你手工录入的自带内容,还是通过开放 API / MCP 提交的内容, 在发布前都必须通过本标准所描述的审核管线。本标准对齐阿里云内容安全「文本审核增强版」的检测类目与风险分级口径, 并在此基础上叠加妙音自有的质量评审。
| 闸口 | 触发时机 | 作用 |
|---|---|---|
| ① 生产管线审 | AI 成稿时 | 平台生成的每一篇稿件在产出时即完成内容安全审核,未通过的不进入审批队列 |
| ② 建档审 | 手工录入 / API 提交时 | 用户自带内容(含 API 自带内容模式)在建档时先审,未通过的不能保存为待发稿件 |
| ③ 发布前终审 | 审批通过、实际发出前 | 审批通过后、内容真正发布到渠道前再审核一次,防止审批后改稿绕过前两道闸 |
任何一道闸判定高风险,内容都不会发出;审核服务本身异常(未真正执行审核)时, 平台按「宁可人工、绝不放行」处理——稿件转人工确认,禁止免审批直发。
| 类目 | 名称 | 说明 |
|---|---|---|
political | 涉政敏感 | 领导人/政治实体、负面政治言论、损害国家形象、国家象征不当使用 |
terrorism | 暴恐 | 恐怖主义、宣扬暴力、枪支弹药、爆炸物、血腥内容 |
porn | 涉黄 | 色情描述、性暗示、低俗挑逗 |
contraband | 违禁品 | 毒品、管制器具、非法交易 |
gambling_fraud | 赌博 / 诈骗 | 博彩引流、刷单、非法集资、诈骗话术 |
ad_law | 广告法违禁 | 「最」「第一」「唯一」「国家级」等绝对化用语、虚假宣传、医疗夸大(如「治愈」「根治」「神奇」) |
abuse | 辱骂攻击 | 人身攻击、网络暴力、恶意引战 |
discrimination | 歧视 | 民族 / 地域 / 性别 / 宗教 / 疾病歧视 |
pii | 个人信息泄露 | 他人手机号、身份证号、住址、银行卡等隐私信息 |
infringement | 侵权 | 抄袭洗稿、冒充官方 / 名人、侵犯名誉权 |
superstition | 封建迷信 | 算命改运、风水消灾等宣扬性内容 |
rumor | 不实信息 | 编造法律法规 / 政策文件、已被辟谣的谣言 |
判定注意:正常行业资讯、营销文案中的产品介绍与功效说明不算违规,明显夸大或违禁表述才算; 拿不准的内容按疑似违规(中风险)转人工复查,不误判拒绝。
| 风险等级 | 处理方式 |
|---|---|
| 高风险 | 直接拒绝发布,退还相关费用 |
| 中风险 | 可发布,但自动转人工复查,复查通过前不会自动发出 |
| 低风险 / 无风险 | 正常进入发布流程 |
内容安全审核管的是「能不能发」(合规底线);妙音另有一套独立的 AI 质量评审管「值不值得发」 (AI 味、标题党、跑题、结构完整度等质量维度)。质检不合格的内容会被打回重写或标记低分, 与安全审核互不替代、先后执行。
本标准目前由妙音自有审核模型执行,检测类目与分级口径对齐阿里云内容安全标准; 后续将接入阿里云内容安全机器审核作为硬性闸口,审核能力与处置口径如有变化,本页会同步更新。