共计 1926 个字符，预计需要花费 5 分钟才能阅读完成。
本文介绍云开发内容审核的应用场景，并演示如何应用内容审核性能。
* 本文次要介绍腾讯云云开发侧的性能利用，微信云开发侧使用指南参见：
https://developers.weixin.qq….
内容审核介绍
什么是内容审核？
内容审核是基于图像、文本、音视频的检测技术，可自动检测低俗、守法违规、色情、广告、图文违规等内容，对用户上传的图片、文字、音视频进行内容审核，以满足上传要求，帮忙客户升高业务违规危险。
常见的内容审核形式有：
- 图像内容审核
图像内容审核，利用深度神经网络模型对图片内容进行检测，精确辨认图像中的敏感守法元素、违规内容等，帮忙业务躲避违规危险。
- 文本内容审核
文本内容审核，采纳人工智能文本检测技术无效辨认守法违规、广告、唾骂、违禁品和灌水文本内容，提供定制化的文本敏感内容审核计划。
云开发内容审核介绍
云开发内容审核为托管在云开发内的内容（云数据库里存储的数据、云存储上存储的文件）提供疾速的内容审核服务。可疾速设置内容审核规定（审核范畴、审核场景、违规后主动封禁解决），数据库文档变更后异步审核，文本内容秒级实现审核与解决。
留神：以后仅反对云数据库内的文档进行内容审核。
内容审核的常见场景
在当下的互联网环境下，内容审核能够说是无处不在，以一个论坛网站为例：小到一个用户的用户名注册内容审核、用户在评论区或留言区的评论内容审核，大到用户发帖的整个帖子的内容审核。
但凡能让用户自在输出内容的中央都须要对其内容进行审核，从而避免论坛被大量不良信息所围绕，造成网站服务器资源被节约，重大地影响了网站形象，更有甚者网站站长可能会承当相干法律责任。
应用云开发内容审核
前提条件
已有一个可用的 按量计费 环境。
https://cloud.tencent.com/doc…
操作步骤
单击一个按量计费环境，进入 环境 > 内容审核 > 平安配置 页面，在平安配置页能够看到有两大部分：审核规定和审核详情。
步骤 1：创立审核规定
在进行内容审核之前，须要先创立审核规定，即制订对哪些内容进行什么样的规定进行审核。
- 单击 新建，开始创立审核规定。
- 抉择对云数据库中哪个汇合进行内容审核，例如须要对用户评论内容进行审核，则抉择存储用户评论的汇合，如下：
阐明：该下拉框中所列出的汇合即是数据库中所有的汇合，如果以后下拉框中没有汇合，则您须要在左侧导航栏数据库中先创立一个汇合。
- 抉择完汇合后，还需填写对该汇合下的哪个字段进行审核，例如须要对用户评论内容进行审核，则填写评论汇合里的评论内容字段，如下：
- 拟定一个屏蔽文案，当呈现违规内容时，用于提醒用户的信息，默认为：该内容已违规暂不显示。如下：
- 开启对违规内容进行主动屏蔽开关。开启后，零碎如果检测到某条内容违规，则会对内容进行主动屏蔽，并以 4 中拟定的自定义屏蔽文案进行重写。如果不开启，则只对内容进行审核打分，不主动重写屏蔽。个别倡议开启，如下：
- 开启后，须要抉择审核场景，即对什么类型的违规内容进行审核，如谩骂、广告、守法、色情等。个别倡议全选，如下：
阐明：违规类型后的审核分数是指：当系统对内容进行审核时，会对被审核的内容进行打分，分数越高示意内容违规水平越高，当打出的分数大于所填写的审核分数时，零碎将会对内容进行主动屏蔽。
审核分数可了解为对以后违规类型的“容忍度”，分数越低示意容忍度越低，例如对守法信息零容忍，本着“宁肯错杀一千，也不放过一个”的准则，即可将守法类型的分数填写的低一点（最低 60 分），这样零碎一旦发现内容疑似属于守法信息，立刻将其屏蔽。
- 填写完审核场景后，最初点击勾选条款。
单击 确定。即可创立一条新的审核规定。
步骤 2：测试审核规定
审核规定创立结束后，即可测试下创立的审核规定是否失效。
- 单击左侧导航栏中的 数据库 页，进入到上述所选的汇合中，单击 增加文档，先增加一条失常的内容：
如下图，对于没有违规的内容是会失常插入到汇合中的。
- 再次增加文档，并尝试成心输出一些违规内容：
如下图，插入的文档字段蕴含违规内容，曾经被主动屏蔽重写了。
以上阐明创立的审核规定已失效。
步骤 3：查看审核详情
- 单击左侧导航栏中的 内容审核 页后，再单击顶部的 审核详情，能看到审核平台的审核内容以及审核后果，如下：
- 在测试审核规定时，第二次成心输出的违规内容已胜利被审核零碎监测到，并精确地辨认出违规类型以及对内容的审核评分，如下：
- 在某些特定的需要场景下，如果发现某条在特定场景上司于是失常内容，但被审核零碎 误判 为违规内容时：
可对该条违规记录进行 回滚。
回滚后该条内容在审核记录里的解决状态也变成了 已回滚，并且在数据库中该条记录也可失常显示。
* 本文次要介绍腾讯云云开发侧的性能利用，微信云开发侧的使用指南参见：
https://developers.weixin.qq….
