对于神眼内容审核系统来说“良药不苦口”

(1/2)
客户端
东方号

举报

举报原因:
东方资讯  >   科技 频道  >  正文

对于神眼内容审核系统来说“良药不苦口”

人生病了需要吃药,但是内容“生病”呢?曾经依赖于书信社交的时代,世界的脚步还很慢,内容看起来很健康,但是今天互联网的高速发展,使得内容形式和内容载体都更为丰富,各类内容违规问题日渐凸显。

近年来国家出台了一系列相关规定,对互联网内容进行规范规范。例如,国家互联网信息办公室在2019年11月-12月先后发布了《网络音视频信息服务管理规定》和《网络信息内容生态治理规定》。对网络信息内容生产者、网络信息内容服务平台、网络信息内容服务使用者、网络行业组织等提出了明确的管理要求。

行业层面,按照国家广播电视总局工作部署,中国网络视听节目服务协会联合央视网、芒果TV、腾讯视频、优酷、爱奇艺、搜狐、哔哩哔哩、西瓜视频、快手、秒拍等视听节目网站制订了《网络综艺节目内容审核标准细则》,近日经协会常务理事会会议审议通过,予以发布。

应用层面,是内容审核服务的逐步完善,各大平台的创作者每天发布着数以千万计的图文、音频、视频内容,所以平台确保其内容的安全性的压力都随之增加。而行业内包括阿里云盾、网易易盾、百度内容审核平台、极链科技神眼内容审核系统等行业级服务快速上线。

阿里云盾

阿里云目前提供云安全、数据安全、业务安全、身份管理等一些列安全服务。在内容安全方面,主要提供内容检测api、OSS违规检测、站点检测三种服务,以站点检测为例,可定期对网站进行检测,及时发现网站在内容安全方面可能存在的风险,覆盖首页篡改,色情低俗,涉政暴恐,图文违规等风险,并提供违规内容的具体地址和查看。

防DDoS攻击服务介绍:云盾DDoS防御服务新增了对DDoS防御服务的高级配置功能,针对目前用户的需求,提供了1)”流量图” (为用户展示云服务器当前的流量情况) ;2)”短信报警实时通知” (当遭受DDoS攻击,启动防御的同时实时通知用户) ; 3)“是否开启7层防御模式”(是否开启防CC);4)“DDoS自动化防御的启动阈值”(控制对启动DDoS防御的敏感度,阈值越小,越容易触发DDoS防御);5)“清洗时访问者限制”(控制用户服务器在清洗时的防御策略)。

网易易盾

网易易盾主要面向数字化业务提供内容安全、业务安全、移动安全和网络安全服务,保障客户业务合规、稳健和安全运营,使客户可以免受黑灰产组织非法侵害。基于网易丰富的安全经验,采用人工智能和大数据技术,易盾智能业务风控引擎全面整合反不良信息、验证码&反作弊、应用加固、反游戏外挂、高防抗D等安全模块,全面驱动业务安全。

内容安全方面,主要提供包括文本检测、图片检测、视频检测、音频检测、人工审核等服务等。以文本审核为例,基于海量样本数据,智能策略定制,高效过滤色情、广告、涉政、暴恐等多类垃圾文字及敏感词、违禁变种。主要检测类别包括:广告文本、涉黄文本、暴恐文本、涉政文本、谩骂文本、灌水文本。

神眼内容审核

极链科技Video++对目前行业面临的主要问题,响应政策号召,结合人工智能技术,打造全栈式智能内容安全审核引擎——神眼系统,用AI技术帮助平台方减轻内容审核压力、降低内容审核成本,为客户提供一站式的智能内容安全解决方案。

神眼内容安全审核系统基于先进的深度学习算法,面向视频平台、社交网站、网络社区、融媒体等客户群体,提供包括视频、文本、图像等泛内容的涉黄、暴力、政治敏感等风险内容的识别,高效遏制风险、全面释放审核人力、提高审核效率、净化网络环境、提升用户体验。

产品核心功能包括:智能鉴黄、智能鉴暴、政治敏感人物识别、公众人物识别、违禁品识别、广告检测、图像质量检测、logo识别、OCR审核等。该系统支持本地私有化部署,独立的运营平台满足精细化运营需求,并为客户配套三次审核流程,机器+人工双重保障审核准确率高于行业平均水平,为企业构建牢不可破的安全防御体系。

人们常说“良药苦口”,但对于如今互联网海量信息内容来说,内容审核不但“不苦口”还是“一剂良药”。各大内容平台来更应践行行业相关管理规范,严把内容安全,共同营造良好的内容环境。

0条评论

点击进入 更多跟帖
热门推荐

联系我们|eastday.com All Right Reserve 版权所有