共计 1771 个字符,预计需要花费 5 分钟才能阅读完成。
在互联网的使用者当中,未成年人群体颇受关注,增强未成年人网络爱护、缩小网络有害信息对未成年人的不良影响已成为社会共识。往年网络安全周期间,腾讯发动“守护青苗口头”,基于前沿视觉 AI 技术、平安大数据和黑灰产情报中台,助力企业建设欠缺长效的涉青少年网络内容治理机制,污染网络空间色情低俗、暴力欺凌等危害青少年身心健康的不良信息,守护未成年人上网平安。
未成年网民规模达 1.75 亿,近五成曾遭逢网络不良信息
据共青团中央保护青少年权益部、中国互联网络信息中心(CNNIC)联结公布的《2019 年全国未成年人互联网应用状况钻研报告》(以下简称《报告》)显示,我国未成年人互联网应用已相当遍及,2019 年我国未成年网民规模为 1.75 亿,未成年人互联网普及率达到 93.1%。
与此同时,网络不良信息正威逼着未成年人的网络学习和生存。《报告》考察结果显示,46% 的未成年网民曾在上网过程中遭逢过各类不良信息,包含淫秽色情、血腥暴力等内容。网络不良信息不仅重大影响未成年人心理健康,甚至可能成为诱发犯罪的重要因素。
目前,我国在多个互联网内容畛域均实施了监管审核,但针对更宽泛的网络内容监管审核伎俩较少,存在较大的真空地带,未成年人网络内容审核和分级火烧眉毛。
“守护青苗口头”:还未成年人一片清朗网络空间
为了给未成年人营造绿色上网环境,响应网信办网络内容“清朗口头”整治细则、《未成年人保护法》以及《网络安全法》等与未成年人网络安全相干的法律法规,腾讯发动未成年人网络内容平安爱护的“守护青苗口头”,基于腾讯天御原有的内容风控能力,引入腾讯优图 AI 内容审核能力,打造未成年人内容平安审核解决方案 2.0,助力企业建设欠缺长效的涉青少年网络内容治理机制,遏制网上守法和不良信息的流传。
腾讯平安天御基于腾讯平安 20 余年黑产攻防教训,依靠人工智能的外围和面向场景的风控能力打造内容平安解决方案。此次解决方案的更新,全新提供了对未成年人生产、浏览、观看等全方位的网络环境污染能力,其中针对违规的内容辨认的能力是腾讯优图实验室通过海量数据训练失去的 AI 辨认能力,可能通过特征提取、标签预测、细粒度辨认,精准辨认色情、暴力等内容,无效笼罩视频、音频、文本、图片等多种传播媒介,确保不脱漏、不误杀。
在未成年人爱护场景中,腾讯平安天御在规范内容审核根底能力之上减少了很多针对未成年设计的能力,可能精准辨认未成年人色情低俗、暴力欺凌、儿童邪典 ACG、鼓吹自残他杀、封建迷信等网络不良信息,助力污染未成年人网络环境。基于这套解决方案,腾讯天御与腾讯优图已联结为 1500+ 家平台提供内容平安服务,共计审核图片总量已冲破 1000 亿 +,累计拦挡不良内容 51263 万。
助力海量网络内容治理,夯实互联网社区上云底座
保护网络安全须要社会多方独特参加。2019 年 10 月,最高人民法院、最高人民检察院《对于办理非法利用信息网络、帮忙信息网络立功等刑事案件适用法律若干问题的解释》出台,进一步明确规定了网络服务提供者相干平台和产品在内容方面的任务与法律责任。而对于平台而言,无害内容不仅会带来监管危险,也会极大水平影响用户体验,导致用户的散失。
针对互联网平台每日产生的海量信息,腾讯平安提供从内容辨认,到平台搭建、策略经营等服务,帮忙企业构建一套欠缺的内容风控系统,做到事先被动感知潜在用户、事中疾速解决歹意内容,毫秒级的响应无效进步企业的内容安全性。同时基于 AI 的内容风控,进步机器审核效率,帮忙鉴定员精确、疾速地实现内容审核,为企业节俭大量的人力和工夫老本。并且,企业能够便捷快递地接入腾讯平安天御内容风控的能力。腾讯平安天御不仅提供 API 接口,还能够协同腾讯云等产品接入企业的内容风控系统,帮忙企业零开发、疾速辨认平台中可能存在的违规内容。
目前,腾讯平安天御的内容风控通过腾讯云和微信小程序已服务超过 5 万家开发者,行业渗透率达 90%,审核效率晋升 20 倍以上,业务衰弱水平达到 99.89%。备受年轻人追捧的生存形式平台小红书,在腾讯平安天御的助力下内容舞弊辨认能力上晋升了 30%,打造了更美妙、实在、多元的内容社区气氛。将来随着 5G 等新基建技术落地,必将产生更多的内容模式和渠道,腾讯平安也将继续优化和降级内容风控能力,助力污染网络安全生态,夯实互联网内容社区平台上云平安底座,推动产业数字化转型降级。