文档中心>游戏多媒体引擎>控制台指南>语音内容安全服务运营

语音内容安全服务运营

最近更新时间:2023-03-03 17:17:11

我的收藏
本文档主要指导您如何在控制台查看语音内容安全识别统计、识别结果明细等数据。

配置前提条件

已开通 GME 语音内容安全服务,可参见 服务开通指引
根据语音内容安全服务配置文档对服务进行相应的配置。
已经使用语音内容安全服务。

内容安全服务识别模块与场景

GME 语音内容安全服务有三个使用场景,具体可以参见 语音内容安全介绍文档
内容安全服务识别模块
所包含的 GME 识别场景
一句话音频
实时语音审核及语音消息审核
点播音频
第三方音频文件审核
直播音频
第三方语音流审核

识别统计

步骤1:进入配置页面

登录 游戏多媒体引擎控制台,选择左侧菜单语音内容安全 > 服务配置,单击天御 GME 内容安全控制台,进入配置页面。



步骤2:进入识别统计页面

如步骤1中所示,“更多详细配置请在天御 GME 内容安全控制台中修改”。请单击页面中的超链接,跳转进入 天御 GME 内容安全控制台 。跳转后,进入 识别统计 页签。




步骤3:查看识别统计

选择需要查询的内容安全服务识别模块以及识别场景,查看不同时间段的识别结果统计数据。

实时语音识别明细查询

步骤1:进入查询页面

登录 游戏多媒体引擎控制台,选择左侧菜单语音内容安全 > 检测结果,进入查询页面




步骤2:筛选违规内容

筛选条件包括:
时间范围:可筛选近7天的违规内容
恶意分类:识别结果所对应的恶意分类。
实时语音房间 ID:实时语音通话时的房间 ID(roomID)。
用户 ID:使用 GME 服务的用户 ID(openID)。
恶意分数:分数为恶意标签下的置信度。
查询明细包括:
文件 ID:识别任务 ID,您一般不会用到这个 ID,但如果遇到无法解决的问题,可能需要提供音频 ID以我们定位。
房间 ID:实时语音通话时的房间 ID(roomID)。
用户 ID:使用 GME 服务的用户 ID(openID)。
恶意类型:识别结果所对应的恶意类型。
恶意分数:分数为恶意标签下的置信度。
时长:音频切片文件时长。
创建时间:音频切片文件创建时间。
详情:可查看更加详细的信息,例如违规关键词。
试听:可试听此音频文件。
说明:
恶意分类:包括涉黄、涉政、谩骂、违法、暴恐、色情、广告、自定义关键词等,详细请参考语音内容安全服务中的策略配置
恶意分数:分数为恶意标签下的置信度,取值范围:0(置信度最低)-100(置信度最高 ),越高代表该音频内容越有可能属于当前返回的恶意标签;如:色情 99,则表明该音频内容非常有可能属于色情内容;色情 0,则表明该音频内容不属于色情内容。
违规关键词:该音频识别出的文本内容所命中的违规关键词信息。

步骤3:导出违规内容

点击 导出文件 可以将查询到的内容导出为 Excel 表格文件,导出的内容包括:
FileID:文件 ID。
RoomID:实时语音通话时的房间 ID(roomID)。
UserID:使用 GME 服务的用户 ID(openID)。
MaliciousType:识别结果所对应的恶意类型。
MaliciousScore:恶意分数。
Duration:音频切片文件时长。
CreationTime:音频切片文件创建时间。
ScanDetail:关键字在音频的开始结束时间。
FileURL:文件的下载地址。

语音消息、第三方审核识别明细查询

步骤1:进入配置页面

登录 游戏多媒体引擎控制台,选择左侧菜单语音内容安全 > 服务配置,单击天御 GME 内容安全控制台,进入配置页面。



步骤2:进入明细查询页面

如步骤1中所示,“更多详细配置请在天御 GME 内容安全控制台中修改”。请单击页面中的超链接,跳转进入 天御 GME 内容安全控制台 。跳转后,进入 明细查询 页签。




步骤3:明细查询

选择需要查询的内容安全服务识别模块以及识别场景,筛选需要查询的音频内容。
通过输入音频 ID 搜索需要查询的音频内容。
说明:
语音消息审核,可通过语音消息 flieid 进行搜索查询。例如 fileid 为:https://bspcms-1256xxxx736.cos.ap-guangzhou.myqcloud.com/AudioDetail/5/1256xxxx279/20230302/d396766b-xxxx-xxxx-9977-be655c861583.mp3,可通过 d396766b-xxxx-xxxx-9977-be655c861583 查询对应的音频审核结果。
查询明细包括:
音频内容:音频文件识别出的对应文本内容,违规内容将会标注为红色。
音频 ID:每一个音频切片有唯一 ID,您一般不会用到这个 ID,但如果遇到无法解决的问题,可能需要提供音频 ID 以我们定位。
音频 URL:音频文件下载地址。
音频名称:任务名称,方便后续查询和管理审核任务。
过审场景:具体的使用场景。
识别类型:识别结果所对应的恶意标签
处理建议:系统基于恶意标签的后续操作建议。
送审时间:音频文件进行审核的时间。
查看详情:查看更多识别详情,例如分数关键词文本等。
查看策略:查看此次识别的策略信息、策略配置以及自定义词库信息。
说明:
恶意标签:包括正常、娇喘、政治、广告、谩骂、违法、暴恐、色情等,详细请参考语音内容安全服务中的策略配置
分数:分数为恶意标签下的置信度,取值范围:0(置信度最低)-100(置信度最高 ),越高代表该音频内容越有可能属于当前返回的恶意标签;如:色情 99,则表明该音频内容非常有可能属于色情内容;色情 0,则表明该音频内容不属于色情内容。
关键词:该音频识别出的文本内容所命中的违规关键词信息。
文本:音频文件识别出的对应文本内容。