云点播图片审核借助于 AI 审核出违规信息。审核的结果包括审核评分、审核建议。根据“审核建议”,媒体管理者可以决定图片是否允许公开,有效规避违规图片带来的法律风险和品牌伤害。
云点播可以对画面图像、画面中的文本两种对象进行审核,审核标签包括色情、暴力、不适宜的信息、违法、谩骂、广告等。
对象 | 审核标签 |
画面图像 | 色情(Porn) |
| 暴力(Terror) |
| 不适宜的信息(Polity) |
| 广告(Ad) |
| 违法(Illegal) |
画面中的文本(OCR) | 色情(Porn) |
| 暴力(Terror) |
| 不适宜的信息(Polity) |
| 广告(Ad) |
| 违法(Illegal) |
| 谩骂(Abuse) |
审核结果如下表所示:
字段名 | 类型 | 含义 |
Confidence | Float | 审核评分(0 - 100),评分越高,嫌疑越大。 |
Suggestion | String | 审核建议,有 pass,review,block 三种: pass:嫌疑度不高,建议直接通过。 review:嫌疑度较高,建议人工复核。 block:嫌疑度很高,建议直接屏蔽。 |
发起处理
获取结果
不论以何种方式发起处理,审核结果都立即返回(即同步返回)。
通过云点播控制台发起的,输出结果参见云点播 控制台 ;通过服务端 API 图片审核 调用发起的,输出结果数据格式参见 图片审核 - 3. 输出参数。