文档建议反馈控制台
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
发布

AI让鉴黄“0”误差，从此涉黄师们不再被掏空

本月，北京首次关停涉黄直播平台“夜魅社区”。此前，映客、花椒等在直播、陌陌等平台的数十位主播因涉黄被永久封禁，商业需求激增“鉴黄师”职业，“鉴黄”势在必行。...AI鉴黄效果怎么样，真否能解放鉴黄师？ 识别色情、暴恐、时政敏感信息、小广告等违规图片和视频方面都要表现卓越，才能真正解放鉴黄师。...极限元 CEO 雷臻表示：目前直播平台涉黄图像检测的准确率高达99%以上，误报率低于1%，需要客户进行人工复核的比例不超过3%。...识别图像中是否存在人物体征，统计人数；识别图像中人物的性别、年龄区间；识别人物的肤色、肢体器官暴露程度；识别人物的肢体轮廓，分析动作行为；除了图像识别之外，还可以从音频信息中提取关键特征，判断是否存在敏感信息；实时分析弹幕文本内容...事实上，无论是智能鉴黄还是人工鉴黄，其目的都是为了营造一个更健康的网络环境。相对于人工鉴黄耗费大量的人力、财力，以及对员工身心的影响，依托大数据和云计算的智能鉴黄显得更为“现代化”。

5K20
    • 您找到你想要的搜索结果了吗？
    是的
    没有找到

    腾讯云通信TRTC推出实时音视频鉴黄功能，一键净化网络环境

    随着视频互动、语聊交友等场景应用的飞速发展，用户的内容也以多种形态在广泛的传播，如何有效的识别应用中潜在的涉黄、涉暴、低俗等不良内容，已经成为了行业的课题。...音频内容检测 对于开启了音频内容检测服务的客户，TRTC 能够实时自动提取音频内容，并送到天御的音频审核服务进行不良内容鉴定，天御完成审核之后通过回调接口通知客户审核结果。...说话人识别：通过声纹识别判断是否为同一说话人； 4、小语种识别：能够支持对蒙藏维哈朝粤日俄越等语种的识别； 5、敏感词唤醒：支持自定义唤醒词针对高频恶意音频进行快速打击识别； 6、音转文识别：将音频转换成文本之后对识别文本恶意...视频内容检测 对于开启了视频内容检测服务的客户，TRTC 通过旁路直播功能将视频流推到云直播服务，云直播从视频流中定期截取图片，并将截取的图片送给天御的图像审核服务进行不良内容鉴定，天御完成审核之后通过回调接口通知客户审核结果...如何接入视频鉴黄 依托云直播的能力，在实时音视频控制台开启旁路直播后可对实时视频流进行鉴黄处理。视频鉴黄功能默认关闭，可登录云直播控制台开启，接入详情请点击“阅读原文”。

    6.1K30

    内容安全最佳实践 | 腾讯云COS这个案例，教你轻松规避内容风险

    对于教学中裸露身体的场景，COS内容审核支持根据审核分数进行灵活配置，控制涉黄尺度。此外，COS还拥有广告审核的能力，VIPKID的存量教学视频中如果有其他厂商的logo，则会自动替换。 ?...如上图，是VIPKID使用内容审核的应用流程：学生在直播上课时，直播数据传输到VIPKID的服务器，VIPKID将直播的视频进行截帧传给COS，COS为其进行涉黄、涉政、广告的审核，审核完后将数据传输给...图片识别场景包括： 色情：识别多种涉黄违规类型的图片，如色情漫画、涉黄图片等 广告：识别多种形式的广告图片，包括网络小广告、微商商品图片、招嫖广告等 违禁：识别多种违法违规内容，包括抽烟吸毒、赌博、打架斗殴等...文本审核 采用前沿的自然语言处理算法，结合海量的敏感关键词库进行建模，并配置有多种预处理和匹配识别规则，快速准确识别各种变形文本，例如拆分字、形似字、音似字、带有干扰符号的句子、有歧义的短语，可有效过滤违规数据...，打造快速、高质、稳定文本审核服务。

    4.7K60

    免费敏感词检测API - 私有化部署

    敏感词检测API - 私有化部署提供文本识别、智能鉴黄、敏感词过滤、涉政检测等服务，可部署至「本地服务器」或「专有云服务器」，保障数据私密性，提供一键启动软件部署包私有化。...简介敏感词库从760000词组中整理出来，基于NLP算法检测支持Windows、MacOs、Linux等64位主流系统可以部署在本地服务器，也可以部署至阿里云、腾讯云、华为云、百度云等云服务器通过下载部署包...，即可一键启动私有化的"敏感词检测 API服务"自动云更新最新词库支持http json方式或grpc方式查询单服务参考查询效率70000次/分钟，同时支持并行服务按需自定义添加文本白名单/黑名单服务运行内存...65M左右，非常轻便应用场景用户昵称、聊天消息、直播弹幕、评论留言、用户简介、商品详情、创作文章等内容合规检测过滤演示地址坚果墙在线敏感词检测服务下载地址https://github.com/bosnzt...wordscheck快速接入文档文档地址敏感词分类色情：色情传播、x用品、av女优、色情描写、x器官、x行为、色情行为政治：领导人、官员、政党、国家机关、反动言论、邪教、分裂组织、宗教暴恐违禁：枪支弹药、警用军用、涉黑涉恶

    11.9K01

    为什么我的 WordPress 网站被封了？

    网站被封禁有很多原因，其中最常见的就是网站内容违规，即网页包含了涉黄、广告等违法违规的内容，那么如何有效管理网站内容，防止网站被封呢？  ...文档等静态资源进行多场景的审核，从而有效地识别并冻结色情低俗、违法违规、恶心反感等违禁内容，防患于未然，这样就再也不用担心你的网站突然被封啦~ 静态资源审核 静态资源审核可以对媒体库中的图片、视频、音频、文档进行审核，识别并冻结涉黄...内容审核服务提供了以下两种使用方法，可以覆盖不同的使用场景： 自动审核 配置自动审核，可以自动检测存储桶中新上传的文件，并支持自动冻结（禁止公有访问）已检测的违规内容。...上述两种审核配置都支持用户自定义审核策略，通过设置自定义策略可以定制涉黄涉政等个性化场景的审核；审核后支持按照指定的分数范围进行冻结，智能机审+精确人审的方式帮你有效避免违法内容的传播；审核结果可以通过配置的回调链接返回给用户...网页审核支持对网页文件进行自动检测，从 OCR 文本识别、物体检测（实体、广告台标、二维码等）、图像识别几个维度，通过深度学习技术，识别网页中的违规内容。

    5K50

    色情、暴力、血腥等内容屡禁不止，企业如何祛“污”？

    部分平台由于审核人力和技术资源有限，短时间内容易漏过对某些主播视频内容分享的检测，造成平台口碑下降，对观众造成不良影响，甚至触犯法律。...腾讯云天御内容安全解决方案不仅对涉黄、敏感画面有着99%的识别准确率，若遇上主播们通过“声情并茂”的表演获利，发出那羞羞的声音，天御最新的音频识别技术能结合声纹、违禁词汇，来判断出色情娇喘声以及敏感言论...接入腾讯云天御的服务后，天御为「香肠派对」识别出实时语音里的涉黄内容，以及谩骂等。...03 小程序平台 除了常见的直播平台、游戏平台，新兴的小程序平台也被违法的内容制造者盯上，依赖于平台的高互动性，他们开始瞄准这里生产高危内容吸引眼球，其中不乏涉黄、暴力、血腥等各种违法内容。...，可能存在违法图片上传风险，有可能涉黄、涉敏等，毕竟好赚的钱大都违法。

    5.1K40

    场景文本检测—CTPN算法介绍

    第三步，因为文本信息的特殊性质，需要进行行列分割，对单个字符，或者是连续几个字符进行检测。 第四步，将分割后的字符图像导入识别模型中进行处理，进而得到原图中的字符信息。...Text Proposal Network)方法就是在场景中提取文字的一个效果较好的算法，能将自然环境中的文本信息位置加以检测。...所以检测的过程中 不妨引入一个类似数学上“微分”的思想，如下图5所示，先检测一个个小的、固定宽度的文本段。在后处理部分再将这些小文本段连接起来，得到文本行。...对比图如下，红色框是使用了side-refinement的，而黄色框是没有使用side-refinement方法的结果： 纵观整个流程，该方法的最大两点也是在于将RNN引入了文本检测之中，同时将待检测的结果利用...“微分”的思路来减少误差，使用固定宽度的anchor来检测分割成许多块的proposal.最后合并之后的序列就是我们需要检测的文本区域。

    20.3K61

    深度解析文本检测网络CTPN

    目录 文本检测概念初识 CTPN总体结构 特殊的anchor 双向LSTM RPN层 NMS 文本线构造算法 文本框矫正 损失函数 效果图 参考 文本检测概念初识 OCR（光学字符识别）是CV一个重要的研究领域...，OCR分成文本检测和文本识别两个步骤，其中文本准确检测的困难性又是OCR中最难的一环，而本文介绍的CTPN则是文本检测中的一个里程碑的模型。...文本检测有别于一般的目标检测，区别有以下几种：（1）一般的目标检测的每个目标一般是孤立的，所以每个目标的边界框都很明确，而对于文本检测中边界其实没有那么容易界定，因为文本（单词）其实是一个序列，在图像中每个单词中间是有空格的...（2）文本是一个序列，除去空间特征它还具有很重要的序列特征，它的上下文的序列信息对我们检测文本是有帮助的，而传统的目标检测提取的都是空间特征，自然效果不好。...效果图 这是去年做的银行卡号识别项目的效果图，可以看出CTPN对这种横向的文字检测效果还是很好的： ? 对于场景中的文本检测效果也是不错： ?

    2K20

    【网页内容检测】如何利用腾讯云COS对网页内容安全检测审核API接口？

    PS：近期腾讯云COS对象存储新增对网页内容安全检测能力，实现对网页全部检查，赶快来对接测试下吧！ 提交网页审核任务 功能描述 本接口用于提交一个网页审核任务。...该接口支持情况如下：: 支持对网页文件进行自动检测，从 OCR 文本识别、物体检测（实体、广告台标、二维码等）、图像识别几个维度，通过深度学习技术，识别网页中的违规内容。...网页文本审核：将网页内的文本分离出来进行文本审核，审核费用与文本审核一致。 每个审核场景单独计费，例如您选择审核涉黄、广告两种场景，则审核1个网页，计2次审核费用。...调用接口会产生 图片审核费用、文本审核费用 和 COS 请求费用。...String 是 Container 类型 Conf 的具体数据描述如下： 节点名称（关键字） 父节点 描述 类型 是否必选 DetectType Request.Conf 审核的场景类型，有效值：Porn（涉黄

    5.6K31

    文本检测算法EAST介绍

    EAST由旷世科技于2017年发表在CVPR的关于自然场景文本检测的一篇文章。EAST是用来解决多方向文本检测的问题的一种思路。其核心思想体现在了以下几点。...采用了FCN这样一种多尺度融合的方法来进行特征的抽取，用于后续的像素级的文本区域的预测。 EAST能够直接打到倾斜文本检测的目的，能够完成自然场景下文本检测的任务。...支持旋转矩形框、任意四边形两种文本区域的标注形式。换句话说EAST在回归文本区域的时候包括了旋转矩形框、矩形框加旋转角或者任意四边形这样两种不同的区域检测的过程。...由于考虑了方向信息，可以检测出各个方向的文本。 由于感受野的问题，对较长的文本检测效果欠佳。 EAST模型网络结构 在上图中我们可以看到它主要采用了FPN的思想来提取多尺度的融合特征。...EAST模型效果图 针对于自然场景下的文本图片，EAST能够检测出不同方向，不同角度，不同背景，不同环境，不同字体等等各种条件下的文本区域。

    2.4K20

    对象存储COS推出一站式内容审核服务，助力打造绿色互联网

    2、覆盖全面 支持图片、音频、语音、文本等多种媒体数据的审核，覆盖各个行业上百种违规类型，具有模型丰富的机审和专业的人工复审团队。...图片识别场景包括： 色情：识别多种涉黄违规类型的图片，如色情漫画、涉黄图片等 广告：识别多种形式的广告图片，包括网络小广告、微商商品图片、招嫖广告等 违禁：识别多种违法违规内容，包括抽烟吸毒、赌博、打架斗殴等...4、文本审核 采用前沿的自然语言处理算法，结合海量的敏感关键词库进行建模，并配置有多种预处理和匹配识别规则，快速准确识别各种变形文本，例如拆分字、形似字、音似字、带有干扰符号的句子、有歧义的短语，可有效过滤违规数据...，打造快速、高质、稳定文本审核服务。...3、通过API调用 通过调用内容审核的API接口，用户可以实现对存储桶内指定的文件进行涉黄、广告引导等内容的检测。

    4K30

    网站监控有什么用，什么是网站监控？

    网站内容监控是指采用数据采集、人工智能、云计算、机器学习、语义分析等技术，结合网站内容监管指标，针对网站内容安全、信息发布、办事服务、互动交流、功能设计、创新发展等指标进行实时监测，以防止网站页面内容被篡改，出现黄、...赌、毒、涉政、宗教等违规敏感内容或对公司业务开展产生负面影响的内容，从而避免对企业的品牌形象和业务开展造成较大影响。...邮件等方式进行告警；（2）对网站已发布内容中可能造成严重影响的错别字（国家领导人、国家机构、政策文件、官职职称等）进行监测，定位错别字所在位置，提出改正意见；（3）对网站存在的错误链接、不可访问的链接进行检测定位...；（4）对网站中可能存在的暗链接等非特意存在的超链进行检测定位；（5）对网站中可能存在的黄赌毒等违规链接，涉政、宗教等敏感链接进行检测定位；（6）对网站中存在个人身份证、联系方式等敏感信息完全公开暴露的内容进行检测定位...；（7）对网站页面的标题、描述、关键词、页面文本进行检测，对比上一次检测记录判定内容是否被篡改。

    1.4K10

    自然场景文本检测识别技术综述

    (摘自arxiv: 1512.02325， “SSD: Single Shot MultiBox Detector”) 文本检测模型 文本检测模型的目标是从图片中尽可能准确地找出文字所在区域。...·WordSup方案中，采用半监督学习策略，用单词级标注数据来训练字符级文本检测模型。 下面用近年来出现的多个模型案例，介绍如何应用上述各方法提升图像文本检测的效果。...CTPN模型 CTPN是目前流传最广、影响最大的开源文本检测模型，可以检测水平或微斜的文本行。文本行可以被看成一个字符sequence，而不是一般物体检测中单个独立的目标。...，其训练出的模型对倾斜文本块检测效果更好。...根据开源工程中预训练模型的测试，该模型检测英文单词效果较好、检测中文长文本行效果欠佳。或许，根据中文数据特点进行针对性训练后，检测效果还有提升空间。

    4.5K20

    京沪AI专项治理风暴：30天清理82万违规内容，企业求生指南出炉

    若企业使用侵权、违规数据训练模型（如未经授权的人脸数据、涉黄文本），会因数据合规性问题被责令整改，还可能陷入知识产权纠纷。...标识遗漏坑：AI 生成的文本、图片、视频，必须清晰标注 “AI 生成”，隐瞒标识就是违规。三、企业合规实操指南：跟着北上经验走（一）先备案！...内容层：像京东新增 100 个 AI 特征敏感词、360 优化语义识别模型，企业要针对违规内容（涉政、涉黄、虚假信息等）建立拦截机制，用 “敏感词库 + 语义模型” 双重过滤。...AI 生成内容 “亮身份”按《人工智能生成合成内容标识办法》，文本、图片、视频等 AI 生成内容，必须显著标注（如图片角落加 “AI 生成” 水印，文本结尾附标识说明）。...社会共治：北京开通省级 AI 举报渠道、上海平台设举报入口，企业可主动接入监管举报机制，同时加入 “AI 安全治理联盟”（如北京的联盟），共享治理经验、技术工具（深度伪造检测、多模态溯源等）。

    75810

    智能审核·精准治理：AI 智能审核系统重塑内容风控新范式

    功能模块对比与效能提升功能模块传统审核方式AI 智能审核系统效能提升幅度文本审核人工逐条阅读NLP 模型实时检测违规文本审核效率提升 50 倍图像识别人工肉眼识别计算机视觉识别违规图像识别准确率超 99.5%...视频审核人工全程观看多模态分析关键帧 + 语音 + 字幕审核速度提升 100 倍音频检测人工听取内容声纹识别 + 语音转文本分析检测覆盖率提升 80% 多模态智能审核引擎原理系统核心技术在于全方位的内容理解能力...基于深度学习模型理解内容语义，识别隐含违规信息上下文分析层：结合场景、语境、用户画像进行综合风险评估决策优化层：通过强化学习持续优化审核策略，提升准确率例如在短视频审核中，系统能同步分析画面内容（是否涉黄涉暴...）、语音信息（是否包含违禁词）、字幕文本（是否敏感）、背景音乐（是否侵权），实现全方位立体化审核。...电商平台商品审核为电商平台提供商品信息智能审核，自动检测违禁商品、虚假宣传、侵权图片等内容。通过图像识别技术比对商品图片，识别假冒伪劣产品，使商品上架审核时间从小时级缩短至分钟级。

    1.1K10

    自然场景文本检测识别技术综述

    文本检测模型 文本检测模型的目标是从图片中尽可能准确地找出文字所在区域。...·WordSup方案中，采用半监督学习策略，用单词级标注数据来训练字符级文本检测模型。 下面用近年来出现的多个模型案例，介绍如何应用上述各方法提升图像文本检测的效果。...CTPN模型 CTPN是目前流传最广、影响最大的开源文本检测模型，可以检测水平或微斜的文本行。文本行可以被看成一个字符sequence，而不是一般物体检测中单个独立的目标。...根据开源工程中预训练模型的测试，该模型检测英文单词效果较好、检测中文长文本行效果欠佳。或许，根据中文数据特点进行针对性训练后，检测效果还有提升空间。...相比于CTPN等文本检测模型，SegLink的图片处理速度快很多。 如下图所示，该模型能够同时从6种尺度的特征图中检测小文字块。

    8.3K20

    超31%生成文本涉暴力色情，GPT-3模型在AI Dungeon游戏里疯狂「飙车」！

    GPT-3模型有强大的文本生成内容，我们却无法控制他生成的满足人类道德要求的内容。AI Dungeon引入了AI NPC之后，就自动生成了大量暴力色情的内容，引起了大量玩家的不满。...甚至在宣传语言模型时，还把AI Dungeon作为文本生成技术领域中有巨大潜力的商业应用来推广。 然而基于神经网络的 AI 技术最可怕的一面也展现出来了。...Mimi声称自己在文本生成AI的帮助下，总共写了超过100万字，包括诗歌、阴阳魔界的玄幻故事和色情冒险，她还说这种技术帮助她探索自己的心灵世界。...GPT可以生成多种不同风格的文本，这是优势，也是劣势。这种能力来源于网络上的数十亿词汇，这些词是未经审核和过滤的，训练后的模型自然就学到了这些可能不适合未成年人使用的部分。...如何负责任地部署人工智能系统是AI公司必须考虑的问题，语言模型从互联网文本中训练，不可避免地包括大量令人讨厌的部分，可解释性和可控制性还是AI领域一个重要的研究问题。

    4.6K30
    点击加载更多

    相关资讯

    热门标签

    更多标签

    活动推荐

      运营活动

      活动名称
      广告关闭

      腾讯云开发者

      扫码关注腾讯云开发者

      扫码关注腾讯云开发者

      领取腾讯云代金券

      热门产品

      热门推荐

      更多推荐

      Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有

      深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 粤公网安备44030502008569号

      腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号

      领券