乐趣区

关于网络安全:守护儿童的网络内容安全AI能做些什么

守护儿童数字生存的内容健康有多紧迫?

出世的越晚,上网的工夫就越早。目前曾经有 17.5 亿 14 岁以下的互联网用户。

2019 年,46% 的儿童遭逢过各种网络安全事件。

不良体验次要是因为内容不当,如色情、血腥、暴力等。

——数据起源 CNNIC(中国互联网信息中心)

如何让数字化技术参加到儿童平安的守护过程中逐步成为社会各界重点关注的方向之一。在明天举办的第十六届联合国互联网治理论坛(IGF)——《人工智能为儿童——面向儿童群体的人工智能利用调研报告》公布流动中,来自联合国儿童基金会、中国网络社会组织联合会、中国传媒体大学、腾讯平安等组织机构的代表分享了 AI For Children 的最新实际与成绩。

秉承腾讯“科技向善”的使命愿景,腾讯基于腾讯平安天御内容风控能力、腾讯优图的 AI 内容审核能力,在 2020 年启动了 Guard for Children 我的项目,通过海量训练失去的 AI 辨认能力,可能精准辨认侵害儿童的隐衷内容、过滤出不良流传内容,包含儿童色情、校园暴力、青少年立功、烟赌毒等内容,污染儿童的上网环境。具体而言,Guard for Children 我的项目从三个方面开展工作:

公开课

通过公开课的模式对家长和儿童进行平安教育,腾讯推出了一系列对于如何意识网络空间和如何应答网络欺凌的公共教育课程,帮忙儿童变得刚强和心智成熟,并为其提供网络帮忙。

定制举荐

与教育局开展单干,为 14 岁以下儿童设计、定制视频和音频,应用人工智能进行智能组合举荐。

内容平安

通过人工智能检测,缩小不适宜儿童观看的内容出现,例如色情、欺凌、不良行为、不良 ACG 等。

目前,腾讯平安天御风控已为 1500+ 家平台提供内容平安服务,共计审核图片总量已冲破 3000 亿条,累计拦挡不良内容超 5 亿条,助力多家企业建设欠缺长效的涉青少年网络内容治理机制。

去年 12 月,腾讯还联结联合国儿童基金会等三大公益组织发动了腾讯 Light·公益翻新挑战赛,邀请开发者和公益界的有志之士,依据“未成年人网络爱护”等主题,利用腾讯云 AI 提供的人工智能技术打造公益小程序,以科技之力守护未成年人健康成长。大赛共吸引了 663 支队伍近 3000 名选手参赛,通过四个多月强烈的角逐,24 支团队胜利入围决赛,涌现了一批用技术和创意让 AI 落地公益场景的优良我的项目,为晋升效率、解决社会痛点等方面带来科技力量。

IGF 是联合国框架下对于互联网治理问题的开放性论坛,旨在促成寰球各方在互联网公共政策方面的探讨和对话,把握寰球互联网治理重要时机,本届论坛聚焦经济社会、市场监管、环境等问题。公布流动由中国网络社会组织联合会、中国传媒大学、联合国儿童基金会独特举办,向寰球展现中国在面向儿童群体的人工智能畛域所获得的成就,增强国际交流单干,进一步从人工智能的角度探讨经济和社会的平等与容纳,摸索构建有意义的人工智能为儿童国内通用规范。

退出移动版