文档建议反馈控制台
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
发布

AI让鉴黄“0”误差，从此涉黄师们不再被掏空

本月，北京首次关停涉黄直播平台“夜魅社区”。此前，映客、花椒等在直播、陌陌等平台的数十位主播因涉黄被永久封禁，商业需求激增“鉴黄师”职业，“鉴黄”势在必行。...AI鉴黄效果怎么样，真否能解放鉴黄师？ 识别色情、暴恐、时政敏感信息、小广告等违规图片和视频方面都要表现卓越，才能真正解放鉴黄师。...极限元 CEO 雷臻表示：目前直播平台涉黄图像检测的准确率高达99%以上，误报率低于1%，需要客户进行人工复核的比例不超过3%。...基于深度学习算法构建了多层视觉感知机，采用改进的Inception神经网络层以及多模型级联，实现了快速地识别多尺度色情内容。智能鉴黄的生成具体步骤如下图所示。...智能鉴黄模型生成步骤 直播鉴黄一般从哪些方面进行鉴定？ 通常情况下，直播鉴黄通过视频截图、图像识别、语音技审、弹幕监控、关键字抽取等能力智能识别色情内容。

6.1K20

电商平台商品图智能审核：从涉黄检测到虚假宣传识别的全链路方案

、虚假资质、侵权 ⭐⭐⭐⭐⭐ 买家评价 买家晒图、追评图片 广告引流、涉黄、竞品攻击 ⭐⭐⭐⭐ 营销素材 活动海报、广告Banner、促销图 虚假宣传、违规承诺、夸大效果 ⭐⭐⭐⭐ 客服沟通 售后上传的图片...↓ ├── Pass → 允许上架 ├── Review → 进入运营复审队列（商品暂不上架） └── Block → 拒绝上架 + 通知商家修改 重点检测配置： 检测维度 电商场景配置要点 涉黄...重点检测二维码、微信号、手机号 涉黄 部分商品的"买家秀"可能含不当内容 自定义黑名单 竞品推广海报、已知黑灰产引流图 OCR文字 检测"加微信""私聊优惠"等引流话术 2.3 场景三：营销素材审核...） 涉黄/暴恐/性感检测 侵权内容（未经授权的品牌LOGO/代言人） 自定义黑名单 AI生成的虚假效果图 AI生成识别 2.4 场景四：客服沟通图片 售后场景中用户上传的图片也需要审核： 风险 说明...只审核"涉黄"是远远不够的——违禁品、虚假宣传、竞品引流、AI假图，每一个维度都需要专项应对。 腾讯云IMS的六大识别维度+自定义策略+OCR文字审核+AI生成识别，为电商场景提供了最完整的武器库。

59910
    • 您找到你想要的搜索结果了吗？
    是的
    没有找到

    不止是涉黄检测！图片内容安全的6大识别维度，你可能只用了一半

    摘要： 只开涉黄检测远远不够。腾讯云IMS提供涉黄、暴恐、违法、广告、性感、自定义识别6大维度及AI生成识别能力。本文逐一解读各维度价值与使用技巧，构建完整防护网。...维度 防护目标 不开启的风险 ① 涉黄检测 色情、低俗、裸露 平台被举报/下架 ② 暴恐检测 暴力、血腥、恐怖标识 违反法律法规，社会影响恶劣 ③ 违法检测 赌博、毒品、违禁品 平台成为违法犯罪工具...二、维度详解与使用技巧 维度①：涉黄检测——基础中的基础 检测范围： 直接裸露、漫画色情、隐晦涉黄 使用技巧： 建议所有场景都开启此维度 配合"性感检测"使用，实现更细粒度的分级管理 对于UGC平台，建议将涉黄的...配合OCR检测图片中P入的手机号、微信号等联系方式 维度⑤：性感检测——精细化管理 检测范围： 大面积露肤、暗示性姿势、性感着装、亲密行为 使用技巧： 这是腾讯云IMS独立出来的检测维度，比简单的"涉黄...从今天起，把你的IMS审核策略从"只开涉黄"升级到"全维度防护"。

    56710

    图片内容安全入门指南：涉黄、暴恐、违法、广告四大风险类型全解读

    摘要： 图片审核不只是检测涉黄，一张图可能涉及涉黄、暴恐、违法、广告等多种风险。本文以腾讯云IMS为框架，逐一拆解四大风险类型的定义、场景和检测要点。...隐晦涉黄 暗示性但不直接裸露的内容 性暗示姿势、擦边球 性感内容 非色情但挑逗性的内容 大面积露肤、透视装 1.2 为什么难检测？...1.3 腾讯云IMS的应对 将"涉黄"和"性感"拆分为独立检测维度，提供更细粒度的分级 支持漫画色情、隐晦涉黄等"变体"识别 融合数十种算法模型，有效识别遮挡、风格化等规避手法 二、风险类型二：暴恐检测...除了四大基础维度，腾讯云IMS还提供两项重要的附加能力： 能力 说明 AI生成识别 鉴别图片是否由AI工具（Midjourney、SD等）生成或伪造，应对《AIGC标识办法》合规要求 未成年保护 专项拦截不适宜未成年人观看的内容...涉黄是基础、暴恐是底线、违法是红线、广告是防线——四线并守，加上AI生成识别和未成年保护，才能构建真正全面的内容安全屏障。

    65210

    游戏行业图片审核攻略：用户头像、社区截图、聊天图片一网打尽

    https://cloud.tencent.com/act/pro/moltbotandai#nrsb 一、游戏行业图片审核的五大场景 场景 审核对象 核心风险 特殊挑战 用户头像 玩家自定义头像 涉黄...、暴恐、广告 尺寸小，风格多 游戏社区 帖子配图、攻略截图、同人创作 涉黄、外挂宣传、引流广告 游戏画面可能被误判 游戏内聊天 聊天发送的图片 涉黄、引流、辱骂 量大、速快 战绩/成就分享 截图分享到社交平台...玩家使用真人涉黄照片作为头像 ✅ 外挂广告 社区帖子中发布外挂/辅助工具广告图 ✅ 代练引流 评论区发布代练服务的二维码 ✅ 真实暴力 发布真实暴力事件的照片（非游戏画面） ✅ 辱骂截图 发布带有辱骂文字的聊天截图...表情包等高频重复图片做缓存，避免重复审核 官方表情白名单 游戏内置表情包全部加白名单 4.3 战绩分享审核 玩家分享战绩截图时，重点检测： 截图中是否包含外挂软件的水印/图标 是否为AI生成的虚假战绩（使用AI生成识别...它需要审核系统能够理解游戏语境，区分"游戏中的正常暴力"和"真实的暴力威胁"，区分"角色立绘的性感"和"真人涉黄"，区分"游戏道具的枪支"和"真实武器的展示"。

    44210

    AIGC应用必须过的安全关：如何审核AI生成内容中的违法、涉黄、暴恐风险？

    摘要： 当你的产品集成了AI大模型来生成内容时，你就必须为AI的"不当言论"负责——AI可能生成涉黄暗示、违法引导、暴力描述甚至钓鱼话术。...限时优惠活动：立即查看促销价格 一、AI不是永远"安全"的 大语言模型在生成内容时，存在以下安全风险： 风险类型 说明 触发方式 违法引导 AI生成教唆违法、鼓励危险行为的内容 恶意prompt注入 涉黄低俗...AI生成低俗暗示、涉黄行为描述 角色扮演诱导 暴力内容 AI生成暴力场景描述、武器制造指引 间接提问绕过 钓鱼话术 AI生成社工攻击话术、诈骗脚本 指令注入攻击 有害信息 AI生成错误的医疗、法律建议...三、腾讯云TMS的AIGC审核能力 识别能力 AIGC场景应用 色情识别 拦截AI生成的低俗暗示和涉黄内容 暴恐识别 拦截暴力描述和恐怖主义内容 违法识别 拦截教唆违法、危险指引 广告识别 拦截AI被诱导生成的广告内容...自定义识别 针对特定应用场景的定制化拦截 四、AIGC安全审核最佳实践 4.1 输入+输出双向审核 输入侧：审核用户的prompt，拦截恶意注入 输出侧：审核AI的回复，过滤违规内容 4.2 分级处理策略

    84010

    音乐平台版权与内容安全双重挑战：音频审核如何两手抓？

    一方面，平台需要过滤涉黄低俗、广告导流等违规内容；另一方面，AI生成音乐和翻唱作品的泛滥又带来了新的版权风险。本文探讨音乐平台如何利用腾讯云AMS同时应对内容安全与AI生成鉴别的双重挑战。...产品快速了解：腾讯云音频内容安全产品介绍 | 限时特惠活动 音乐平台的双重风险 风险一：内容安全 违规类型 具体表现 涉黄歌词 显性/隐性涉黄内容的歌曲 低俗音频 ASMR、擦边声音作品 广告植入 音频中插入引流广告...用AI模仿知名歌手音色翻唱 AI生成音乐 AI批量生成的低质音乐内容 AI播客 AI合成的有声内容冒充人工创作 解决方案：内容安全+AI鉴别双引擎 腾讯云AMS同时提供音频内容安全服务和音频AI生成识别服务...引擎一：音频内容安全 能力 说明 涉黄识别 精准识别涉黄歌词和声音内容 低俗检测 音频信号特征分析，识别无语义违规声音 广告过滤 音转文识别引流广告 自定义词库 平台专属违规词过滤 引擎二：AI生成识别...能力 说明 AI语音鉴别 声纹比对+频谱分析，识别AI合成音频 覆盖面广 持续更新，覆盖主流商用TTS和开源模型 API接入 标准API，易于集成到上传审核流程 音乐平台审核架构建议 创作者上传 →

    47110

    传统审核无法识别的新型风险及应对策略

    摘要： 传统的音频审核方案是为"内容违规"设计的——识别涉黄、暴力、广告等"说了坏话"的情况。但AI合成语音诈骗是一种全新的威胁：音频内容本身完全"正常"，违规的是"这个声音不是真人发出的"。...新型风险图谱 风险类型 传统审核能否识别 危害程度 涉黄言论 ✅ 能 ⚠️⚠️⚠️ 暴力谩骂 ✅ 能 ⚠️⚠️⚠️ 广告导流 ✅ 能 ⚠️⚠️ AI冒充亲友诈骗 ❌ 不能 ⚠️⚠️⚠️⚠️⚠️ AI伪造领导指令...门槛越来越低 时间 克隆门槛 2020年 需要数小时录音+专业设备 2023年 需要1-5分钟录音+开源工具 2025-2026年 仅需少量声音+在线工具 质量越来越高 时间 合成质量 早期 机器感明显...应对策略：音频内容安全 + AI生成识别"双引擎" 传统审核解决"说了什么坏话"的问题，AI生成识别解决"这是不是真人说的"问题。两者必须同时部署，才能构成完整的音频安全防线。...腾讯云AMS的"双引擎"方案 引擎 解决的问题 技术手段 音频内容安全服务 识别违规内容（涉黄/暴力/广告） 音转文+语义分析+声学分析 音频AI生成识别服务 鉴别AI合成语音 声纹比对+频谱分析+大模型

    34410

    AO3被封的冤不冤？可视化数据分析《下坠》

    w=876&h=596&f=png&s=24309] 经过统计，文章出现一共20367个非黄色词汇，284个涉黄词汇。...涉黄词汇出现概率约为1.4%，也就是说每100个词汇里就会出现一次黄词，这个概率相当高了，感觉《挪威的森林》略逊一筹，《失乐园》大可一战。...接下来才是关键，识别句子的涉黄程度，同样地，设定概率置信度大于0.7的时候进行分类： [172bff791897c338?...w=1086&h=696&f=png&s=106253] 获得结果如下： >> {'porn': 280, 'not_porn': 1511} 1800条句子中，280条语句涉黄，概率高达16%....当然，大家如果感兴趣还可以用词法分析工具分析文章中的攻防次数，非常有意思，但是涉及到敏感词汇，我这里就不再展开了（逃）。本文完整分析代码可在公众号后台回复：下坠 获得。

    2.5K20

    内容安全最佳实践 | 腾讯云COS这个案例，教你轻松规避内容风险

    对于教学中裸露身体的场景，COS内容审核支持根据审核分数进行灵活配置，控制涉黄尺度。此外，COS还拥有广告审核的能力，VIPKID的存量教学视频中如果有其他厂商的logo，则会自动替换。 ?...如上图，是VIPKID使用内容审核的应用流程：学生在直播上课时，直播数据传输到VIPKID的服务器，VIPKID将直播的视频进行截帧传给COS，COS为其进行涉黄、涉政、广告的审核，审核完后将数据传输给...内容审核核心优势： COS存储+内容审核，一键开启一站式完成内容审核，无额外流量消耗； 成本最优，按截帧频率收费，可以根据场景和涉敏概率，灵活控制截帧数； 机器识别+人工复检，确保审核结果的准确率高达99%...图片识别场景包括： 色情：识别多种涉黄违规类型的图片，如色情漫画、涉黄图片等 广告：识别多种形式的广告图片，包括网络小广告、微商商品图片、招嫖广告等 违禁：识别多种违法违规内容，包括抽烟吸毒、赌博、打架斗殴等...音频审核 使用前沿语音识别算法构建的语音识别（ASR）引擎，能够对语音的内容进行转译处理，识别违规内容包括色情、广告、低俗、灌水等。

    5.4K60

    点播视频多维度审核实战：画面、音频、OCR文本三管齐下杜绝违规

    现实案例：某平台只做画面审核，结果一条视频——画面是正常的风景，但音频全程都在播放涉黄内容。...二、三维审核深度详解 维度一：画面审核 识别类型 具体内容 色情识别 直接裸露、隐晦涉黄、漫画色情、涉黄物体、性行为 暴力识别 血腥画面、暴力行为、恐怖元素 违法识别 违禁物品、赌博场景、涉毒画面 广告识别...维度二：音频审核 识别类型 具体内容 语音内容审核 将语音转为文字，检测违规语言内容 无语义音轨识别 娇喘、呻吟、ASMR等无明确语义但不良的音频 语种识别 识别中文普通话和英语，辅助跨语种内容管理...差异化亮点：无语义音轨识别是腾讯云VM的独家能力，能捕获传统语音转文字技术无法识别的不良音频。...维度三：OCR文本审核 识别类型 具体内容 违规文字 画面中出现的涉黄、涉政、违法等文字 联系方式 手机号、微信号、QQ号等引流信息 广告文字 促销文案、虚假宣传语 字幕内容 视频字幕中的违规内容 三

    47810

    一文看懂：腾讯云天御内容安全全家桶（文本+图片+音频+视频）如何协同作战

    单模态审核的致命盲区 来看几个真实场景： 场景 违规方式 单模态审核结果 社区帖子 图片正常，但配文含暴力引导 ❌ 图片审核通过，文字违规漏检 直播间 画面正常，但主播语音涉黄 ❌ 视频截帧审核通过，音频违规漏检...二、腾讯云天御内容安全产品矩阵 腾讯云天御（T-Sec）内容安全解决方案由四大核心产品组成： 产品 英文缩写 审核模态 核心能力 图片内容安全 IMS 图片 涉黄/暴恐/违法/广告/自定义识别 + AI...生成识别 文本内容安全 TMS 文本 敏感词/涉黄/暴恐/广告/自定义词库 音频内容安全 AMS 音频 语音转文字+音频审核，识别违规音频 视频内容安全 VMS 视频 截帧审核+音频提取+字幕识别 加上...↓ └────── 实时预警 ──────┘ ↓ 可疑房间预警/强制下线 协同价值： 当主播画面正常但语音涉黄时...└───────── 全维度合规判定 ─────────┘ 四、IMS在全家桶中的核心地位 在天御内容安全矩阵中，图片内容安全（IMS）是基石产品： 角色 说明 独立审核 独立完成图片审核任务（涉黄

    68110

    鉴黄界的“Master”，其实是“他”

    随手一搜 鉴黄师年薪20万？ 鉴黄师一天看多少部小电影？ 鉴黄师身体变差惨遭分手？ 那么，身体变差这是否对鉴黄工作者的一个理解误区？今天安小妹拉你们一起与一位“鉴黄师”交谈下，看看他如何说。...传统鉴黄工作内容 由于部分敏感信息，安小妹也不好拍照了，鉴黄大师先给我边走边科普了传统鉴黄的工作内容是：依靠大量的鉴黄师每天审核视频截图。...聊聊鉴黄之外的趣事 “当开始优雅的鉴黄之后，不仅工作量降低同时还有各种福利”，“鉴黄师”继续乐意的介绍到：“比如多屏监控系统不仅展示可疑的色情图片，同时还有主播的各种排行榜，比如机器依据截图识别主播的性别...“ 当你们谈论鉴黄伤身的时候 可能是你们鉴黄的姿势不正确 当我们谈论鉴黄的时候 我们谈论的是人工智能在图片识别的应用 by 天御鉴黄师 所以其实你不是鉴黄师，我也不是鉴黄师，我们今天说到的真正鉴黄师是天御...，它通过不断的对图片标注训练，已经能够高效识别各类涉黄图片，而且给它一张图片不仅可以识别是否涉黄，还可以发现里面的广告，里面的QQ/微信号分别是什么，还可以知男女、识颜值、断年龄。

    3.5K40

    视频智能审核技术解析：画面+音频+文字三位一体的内容安全防线

    摘要 视频审核不是鉴黄的同义词，而是覆盖画面、音频、文字三路信号，对涉黄、涉暴、违禁、版权、质量等多类风险的系统工程。...三、画面通道 3.1 任务分层 任务 类别 技术 涉黄检测 分类 + 关键区域分割 CNN + Attention 涉暴检测 场景识别 Video Transformer 违禁物品 目标检测 YOLO...5.2 文本审核要点 关键词库：黑名单 + 白名单 + 变体（谐音、拆字、火星文）； 语义分类器：基于 Transformer 的多标签分类（涉黄、涉暴、仇恨、广告、政治敏感）； 对抗鲁棒：对形近字、插入特殊字符做归一化...七、典型风险与处置 风险 示例 处置 涉黄 暴露画面 下架 / 打码 涉暴 暴力血腥 下架 / 模糊 违禁物 枪支、毒品 下架 / 人工复核 侮辱谩骂 音频脏话 静音 / 打码 广告软文 二维码、微信号...八、审核指标 指标 公式 目标 召回率 TP / (TP + FN) 95%（涉黄、涉政） 误伤率 FP / (FP + TN) < 1% 端到端延迟 上传到结果返回 < 1 秒/分钟视频（离线） 吞吐

    66710

    腾讯云通信TRTC推出实时音视频鉴黄功能，一键净化网络环境

    随着视频互动、语聊交友等场景应用的飞速发展，用户的内容也以多种形态在广泛的传播，如何有效的识别应用中潜在的涉黄、涉暴、低俗等不良内容，已经成为了行业的课题。...违法等类型； 3、说话人识别：通过声纹识别判断是否为同一说话人； 4、小语种识别：能够支持对蒙藏维哈朝粤日俄越等语种的识别； 5、敏感词唤醒：支持自定义唤醒词针对高频恶意音频进行快速打击识别； 6、音转文识别...针对不良图片多变情况，天御具备多种AI引擎主动识别各种内容，以下是一张图片的识别环节： ?...如何接入视频鉴黄 依托云直播的能力，在实时音视频控制台开启旁路直播后可对实时视频流进行鉴黄处理。视频鉴黄功能默认关闭，可登录云直播控制台开启，接入详情请点击“阅读原文”。...如何接入语音鉴黄 目前尚未开放官网直接接入，如有需要请于工作日上午9点至晚上18点致电95716 转1 联系我们。 ? 长按识别二维码，关注“腾讯云通信”了解更多

    7.1K30

    SFFAI分享 | 黄健：语音情感识别【附PPT与视频资料】

    作者介绍 ---- 黄健，中国科学院自动化研究所模式识别国家重点实验室15级硕博生。目前研究兴趣为多模态情感识别。博士期间在ACMMM，ICASSP，Interspeech等会议上发表多篇论文。...导读 ---- 语音情感识别能够使人机交互更加和谐自然，近来收到了越来越多的关注。语音情感识别系统主要分为语音情感特征提取和情感建模两个重要的部分。...因此，情感识别就是依据外在表现地生理信号和行为反应去量化、描述和识别人类情绪。...情感识别系统主要包括情感特征提取和情感模型构建两个方面，情感识别的研究也是根据这两个方面展开的。...随着深度学习的发展，这两个部分分别都被深度神经网络所替代以提取鲁棒可分的情感特征和时序的情感识别模型，并且也建立了端到端的情感识别模型，许多其它领域的模型也成功地应用在了情感识别方向。

    2.4K30
    点击加载更多

    相关资讯

    热门标签

    更多标签

    活动推荐

      运营活动

      活动名称
      广告关闭

      腾讯云开发者

      扫码关注腾讯云开发者

      扫码关注腾讯云开发者

      领取腾讯云代金券

      热门产品

      热门推荐

      更多推荐

      Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有

      深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 粤公网安备44030502008569号

      腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号

      领券