共计 6100 个字符,预计需要花费 16 分钟才能阅读完成。
这次分享下“发帖功能”,这个功能其实风险蛮大的,特别是对一些敏感言论的控制,如果没有做好可能导致小程序 被封 ,所以除了必要的人工审核和巡查以外,我们需要一些 微信安全监测API 的帮忙,在 AI 加持下,现在很多大公司对内容和图片的效率大大提高了。
这个 DEMO 仅是一个流程示例,由于涉及到云函数和“真”敏感图,这里就有文字图代替。
发帖的功能只要理清思路,其实并不复杂,利用机器 AI 做 内容审查 是关键,直接关系到小程序的整体安全。
[toc]
用户选择手机图库或拍照
let tempImg = 0; // 代表已选择的图片
wx.chooseImage({
count: 3 - tempImg.length, // 选择不超过 3 张照片, 去掉当前已经选择的照片
sizeType: ['original', 'compressed'], // 获取原图或者压缩图
sourceType: ['album', 'camera'], // 获取图片来源 图库、拍照
success(res) {
// tempFilePath 可以作为 img 标签的 src 属性显示图片
let tempFilePaths = res.tempFilePaths;
console.log(tempFilePaths);
// 举例:这里可以 size 来判断图片是否大于 1MB,方便后面内容检查
if (res.tempFiles[0] && res.tempFiles[0].size > 1024 * 1024) {console.log("图片大于 1MB 啦")
}
}
})
这里用到的方法是 chooseImage,它可以设置让用户选择手机图片库和拍照获得,需要注意的是考虑到后面要用微信自带 API 做图片安全检查,图片大小不能超过 1MB,所以需要设置sizeType 为compressed。
内容检查(重点)
由于内容安全对于小程序运营至关重要,稍有不慎就容易导致小程序被封,所以在这块的校验除了常规人工检查外,我们还可以用到微信的内容安全 API。
为什么用微信官方提供的 API?
主要有二点:有一定的免费额度,基于企鹅大厂的专业 AI 检查。
1、云函数 + 云调用
目录结构
├─checkContent
│ config.json // 云调用的权限配置
│ index.js // 云服务器 node 入口文件
│ package-lock.json
│ package.json // NPM 包依赖
│ ...
为什么要强调这个?
因为本人一开始在用云函数 + 云调用的时候,经常会出现各种不明 BUG,很多都是因为目录里面少传文件,或者少配置。
云函数内容:
const cloud = require('wx-server-sdk');
cloud.init();
exports.main = async (event, context) => {console.log(event.txt);
const {value, txt} = event;
try {
let msgR = false;
let imageR = false;
// 检查 文字内容是否违规
if (txt) {
msgR = await cloud.openapi.security.msgSecCheck({content: txt})
}
// 检查 图片内容是否违规
if (value) {
imageR = await cloud.openapi.security.imgSecCheck({
media: {header: { 'Content-Type': 'application/octet-stream'},
contentType: 'image/png',
value: Buffer.from(value)
}
})
}
return {
msgR, // 内容检查返回值
imageR // 图片检查返回值
};
} catch (err) {
// 错误处理
// err.errCode !== 0
return err
}
}
这里主要用到 security.msgSecCheck 和security.imgSecCheck这 2 个微信开放云调用方法(需开发者工具版本 >= 1.02.1904090),以往我们还要在服务器上单独写个方法,现在变得十分的方便,直接在云函数中调用即可。
这里需要重点说 2 个点
- 图片 security.imgSecCheck 方法只能接收 buffer,所以需要把 temp 的临时图片转化为 buffer 的形式传过去,我们这里用到 getFileSystemManager 的方法。
- 如果目录文件中没有config.json,需要自己建一个,并且做一个授权的配置。
{
"permissions": {
"openapi": [
"security.msgSecCheck",
"security.imgSecCheck"
]
}
}
2、检查文字内容安全
wx.cloud.callFunction({
name: 'checkContent',
data: {txt: "乐于分享,一起进步"},
success(_res) {console.log(_res)
},
fail(_res) {console.log(_res)
}
})
// 返回值参考
{
"errMsg": "cloud.callFunction:ok",
"result": {
"msgR": {
"errMsg": "openapi.security.msgSecCheck:ok",
"errCode": 0
},
"imageR": false
},
"requestID": "77952319-b2b4-11e9-bdc8-525400192d0e"
}
应用场景举例:
- 用户个人资料违规文字检测;
- 媒体新闻类用户发表文章,评论内容检测;
- 游戏类用户编辑上传的素材 (如答题类小游戏用户上传的问题及答案) 检测等。频率限制:单个 appId 调用上限为 4000 次 / 分钟,2,000,000 次 / 天 *
通过 wx.cloud.callFunction 的方法调用 checkContent 的云函数,检查一段文本是否含有违法违规内容。
3、检查图片内容安全
// 获取 temp 临时图片文件的 buffer
wx.getFileSystemManager().readFile({filePath: tempImg[0], // 这里做示例,所以就选取第一张图片
success: buffer => {console.log(buffer.data)
// 这里是 云函数调用方法
wx.cloud.callFunction({
name: 'checkContent',
data: {value: buffer.data},
success(json) {console.log(json.result.imageR)
if (json.result.imageR.errCode == 87014) {
wx.showToast({
title: '图片含有违法违规内容',
icon: 'none'
});
console.log("bad")
} else {// 图片正常}
}
})
}
})
// 返回值参考
{
"errMsg": "cloud.callFunction:ok",
"result": {
"msgR": false,
"imageR": {
"errMsg": "openapi.security.imgSecCheck:ok",
"errCode": 0
}
},
"requestID": "c126353c2d-b40b-11e9-81c4d-525400235f2a"
}
应用场景举例:
图片智能鉴黄:涉及拍照的工具类应用 (如美拍,识图类应用) 用户拍照上传检测;电商类商品上架图片检测;媒体类用户文章里的图片检测等;
敏感人脸识别:用户头像;媒体类用户文章里的图片检测;社交类用户上传的图片检测等。频率限制:单个 appId 调用上限为 2000 次 / 分钟,200,000 次 / 天 *(图片大小限制:1M)
这里先要用 getFileSystemManager() 获取临时图片的 buffer(这个是重点),然后再通过 wx.cloud.callFunction 的方法调用 checkContent的云函数中 security.imgSecCheck 的方法,校验一张图片是否含有违法违规内容。
一开始本人调试的时候,也遇到无法上传的问题,必须通过文件管理 (getFileSystemManager) 获取 buffer 后才能上传检查图片,耗费了本人不少 debugger 时间。
完整代码
原本想做个实际的 demo(代码片段)分享给大家打开参考的,但是云函数必须是一个已注册的 APPID,无奈只能贴代码。
这里主要还是提供一个整体思路,希望能帮助大家减少开发成本,更好的解决问题和完成任务 ^_^
html 部分:
<!-- pages/post /index.wxml -->
<view class="wrap">
<view class="title">
<input placeholder="智酷方程式,乐于分享" maxlength="30" bindinput="getTitle"/>
</view>
<view class="content">
<textarea auto-focus="true" maxlength="200" bindinput="textareaCtrl" placeholder-style="color:#999;" placeholder="关注公众号,一起学习,一起进步" />
<view class='fontNum'>{{content.length}}/200</view>
</view>
<view class="chooseImg">
<block wx:for="{{tempImg}}" wx:for-item="item" wx:key="ids" wx:for-index="index">
<view class="chooseImgBox">
<image src="{{item}}" />
<view data-index="{{index}}" catch:tap="removeImg" class="removeImg"></view>
</view>
</block>
<!-- 判断图片 大于等于 3 张的时候 取消 更多 -->
<block wx:if="{{tempImg.length < 3}}">
<view class="chooseImgBoxMore" catch:tap="choosePhoto">
<view class="arrow"></view>
</view>
</block>
</view>
<view class='submit' catch:tap="submitPost">
<view class='blue'> 提交 </view>
<view> 取消 </view>
</view>
</view>
JS 部分:
Page({
/**
* 页面的初始数据
*/
data: {
titleDetail: "", // 帖子 title 内容
content: "", // 发帖内容
tempImg: [], // 选择图片的缩略图,临时地址},
/**
* 生命周期函数 -- 监听页面加载
*/
onLoad: function (options) {wx.cloud.init();
},
/**
* 生命周期函数 -- 监听页面显示
*/
onShow: function () {},
/**
* 检测输入字数
* @param {object} e
*/
textareaCtrl: function (e) {if (e.detail.value) {
this.setData({content: e.detail.value})
} else {
this.setData({content: ""})
}
},
/**
* 选择图片
*/
choosePhoto() {
let self = this;
let tempImg = self.data.tempImg;
if (tempImg.length > 2) {return;}
wx.chooseImage({
count: 3 - tempImg.length, // 选择不超过 3 张照片, 去掉当前已经选择的照片
sizeType: ['original', 'compressed'],
sourceType: ['album', 'camera'],
success(res) {console.log(res);
// tempFilePath 可以作为 img 标签的 src 属性显示图片
let tempFilePaths = res.tempFilePaths;
tempImg = tempImg.concat(tempFilePaths);
console.log(tempImg);
self.setData({tempImg})
wx.getFileSystemManager().readFile({filePath: tempImg[0],
success: buffer => {console.log(buffer.data)
wx.cloud.callFunction({
name: 'checkContent',
data: {value: buffer.data},
success(json) {console.log(JSON.stringify(json))
console.log(json.result.imageR)
if (json.result.imageR.errCode == 87014) {
wx.showToast({
title: '图片含有违法违规内容',
icon: 'none'
});
console.log("bad")
} else {// 图片正常}
}
})
}
})
},
fail: err => {console.log(err)
}
})
},
/**
* 删除照片
*/
removeImg(e) {
let self = this;
let index = e.currentTarget.dataset.index;
console.log(e);
let tempImg = self.data.tempImg;
tempImg.splice(index, 1);
self.setData({tempImg})
},
/**
* 发贴
*/
submitPost(e) {let { titleDetail, content} = this.data;
wx.cloud.callFunction({
name: 'checkContent',
data: {txt: content},
success(_res) {console.log(JSON.stringify(_res))
wx.navigateTo({url: "/pages/postimg/result"})
},
fail(_res) {console.log(_res)
}
})
}
})
往期回顾:
[[[打怪升级]小程序评论回复和发贴功能实战(一)](https://segmentfault.com/a/11…
[[填坑手册]小程序 Canvas 生成海报(一)](https://segmentfault.com/a/11…
[[拆弹时刻]小程序 Canvas 生成海报(二)](https://segmentfault.com/a/11…
[[填坑手册]小程序目录结构和 component 组件使用心得](https://segmentfault.com/a/11…