Dify 容许创立 AI 利用,并提供二次开发的能力。这里我将演示创立一个法律问答助手的 AI 利用,称作“知法”。在本篇教程中,我将领导你为“知法”接入企业微信。
laf 前置筹备
- 企业微信的管理员权限
- 一个 Dify 的帐号
- 一个 Laf 云的帐号
- (可选)一个 OpenAI 的 API Key。如果没有,能够应用 Dify 收费提供的 200 次调用机会用于测试。
-
(可选)在电脑上新建一个 env.txt 的文件,将上面内容复制到 env.txt 中。在接下来的教程中,咱们会一步步把相干的信息填入这个文件。须要保存信息的步骤会高亮显示。
WXWORK_TOKEN=""WXWORK_AESKEY="" WXWORK_CORPID=""WXWORK_AGENTID="" WXWORK_CORPSECRET=""DIFY_APPTOKEN=""
在 Dify 上制作利用
这一章节将会介绍如何创立一个法律常识的数据集,并将数据集和利用关联起来。
搭建法律常识数据集
❝
随时查看文档中对于搭建数据集的更多操作:数据集治理
为了让“知法”理解到更多的上下文,咱们须要创立一个法律常识的数据库。
- 导入文档:从电脑上导入法律常识的 PDF 文档。
- 文本分段和荡涤:上传的文本须要通过二次加工,能力被大语言模型了解。这里咱们不须要关注具体的实现逻辑,间接抉择主动分段即可,而后点击“保留并解决”。
- 文本嵌入:大概 30s 工夫,数据集就创立胜利了。你能够随时回来向数据库里增加更多文件。
搭建的利用
❝
随时查看文档中对于创立利用的更多操作 创立利用
- 创立利用:依据图中的批示,创立一个对话型利用,并命名为“知法”。
- 关联数据集:在“提醒词编排”页,在“上下文”模块中增加抉择刚刚创立的数据集。
- 公布模型:实现关联数据集后,点击页面右上角的“公布”,使模型失效。
获取 API 拜访密钥。在“拜访 API”页面,创立一个 API 密钥并复制保留为 DIFY_APPTOKEN。请留神不要把密钥透露给任何人,免得造成财产损失。
创立企业微信利用
- 记录企业信息:进入企业微信治理后盾 - 我的企业,记录这里的企业 ID 为 WXWORK_CORPID
- 创立企业微信利用:进入利用治理页面,点击【创立利用】进入创立页面,填写利用信息后点击【创立利用】。如果曾经有现成的利用,能够跳过此步骤。
- 记录企业微信利用信息:在利用治理页面点击刚刚创立好的利用,进入利用详情页面。记录这里的 AgentId 和 Secret(须要点击获取按钮,在企业微信聊天窗口外面获取),别离为 WXWORK_AGENTID 和 WXWORK_CORPSECRET。
- 企业微信利用接管信息:在利用详情页面,接管音讯处点击【设置 API 接管】。
在 API 接管音讯页面,点一下两个【随机获取】按钮,它会主动生成一个 Token 和 EncodingAESKey,咱们别离记为 WXWORK_TOKEN 和 WXWORK_AESKEY。留神,不要关掉这个页面,Laf 侧配置结束后咱们再来填写 URL。
在 Laf 云上创立云函数
- 新建 Laf 云利用:进入 Laf 后,点击新建,创立一个云利用。这里抉择收费的打算即可。
- 增加依赖:企业微信利用须要增加 @wecom/crypto, xml2js 两个依赖。增加好后,你的依赖列表应该像上面一样。
- 增加环境变量:从第二行开始,将下面步骤中收集到的所有内容全副粘贴到这里,点击更新。
- 创立云函数:点击创立一个云函数,留神“申请办法”中勾选上 POST, GET,点击确定。
在创立好云函数中,删除默认的代码,并将文末 “附录” 中的代码全副粘贴到这里。
- 公布云函数:点击公布后,云函数就失效了。
当初把 URL 粘贴到企业微信后盾【设置 API 接管】的页面中刚刚留白的中央,而后点击保留。
- 配置 IP 白名单:在企业微信中找到刚刚创立利用,发送一句音讯。不出意外收不到任何音讯。这是因为企业微信默认屏蔽了 Laf 云的 IP。
点击日志,该当能看到这样一条报错 ‘not allow to access from your ip’
点击查看这条日志详情,记录日志中给出的 Laf 云 IP。
回到企业微信的治理后盾,点击刚刚创立的利用,为利用配置可行 IP。
在这里把刚刚的日志中记录的 IP 填入即可。
验证成果
1. 测试聊天:在企业微信中找到刚刚创立利用,发送一句音讯。当初该当能收到推送的音讯了。
援用
这篇深度参考以下文章,感激原作者的辛勤付出。https://forum.laf.run/d/556/3[5]
附录
企业微信利用代码 – (伪流式响应)
import cloud from '@lafjs/cloud'
import {decrypt, getSignature} from '@wecom/crypto'
import xml2js from 'xml2js'
function genConversationKey(userName) {return `${process.env.WXWORK_AGENTID}:${userName}`
}
function genWxAppAccessTokenKey() {return `${process.env.WXWORK_AGENTID}:access-token`
}
async function getToken() {console.log('[getToken] called')
const cache = cloud.shared.get(genWxAppAccessTokenKey())
if (cache && cache.expires >= Date.now()) return cache.token
const res = await cloud.fetch({
url: 'https://qyapi.weixin.qq.com/cgi-bin/gettoken',
method: 'GET',
params: {
corpid: process.env.WXWORK_CORPID,
corpsecret: process.env.WXWORK_CORPSECRET,
}
})
const token = res.data.access_token
cloud.shared.set(genWxAppAccessTokenKey(), {token, expires: Date.now() + res.data.expires_in * 1000 })
return token
}
async function sendWxMessage(message, user) {console.log('[sendWxMessage] called', user, message)
const res = await cloud.fetch({
url: 'https://qyapi.weixin.qq.com/cgi-bin/message/send',
method: 'POST',
params: {access_token: await getToken()
},
data: {
"touser": user,
"msgtype": "text",
"agentid": process.env.WXWORK_AGENTID,
"text": {"content": message},
"safe": 0,
"enable_id_trans": 0,
"enable_duplicate_check": 0,
"duplicate_check_interval": 1800
},
})
console.log('[sendWxMessage] received', res.data)
}
async function sendDifyMessage(message, userName, onMessage) {console.log('[sendDifyMessage] called', message, userName)
const conversationId = cloud.shared.get(genConversationKey(userName)) || null
let newConversationId = ''let responseText =''
try {
const response = await cloud.fetch({
url: 'https://api.dify.ai/v1/chat-messages',
method: 'POST',
headers: {'Authorization': `Bearer ${process.env.DIFY_APPTOKEN}`
},
data: {inputs: {},
response_mode: "streaming",
query: message,
user: userName,
conversation_id: conversationId
},
responseType: "stream"
})
let firstHalfMessage = ''response.data.on('data', (data) => {let message = data.toString()
try {if (firstHalfMessage) {
message += firstHalfMessage
firstHalfMessage = ''
}
// 查看是不是 sse 协定
if (!message.startsWith('data:')) return
const parsedChunk: Record<string, any> = JSON.parse(message.substring(6))
if (!newConversationId) {
newConversationId = parsedChunk.conversation_id
cloud.shared.set(genConversationKey(userName), newConversationId)
}
const {answer} = parsedChunk
responseText += answer
// 伪流式响应
if (answer.endsWith('\n\n') || (responseText.length > 120 && /[?。;!]$/.test(responseText))) {onMessage(responseText.replace('\n\n', ''))
console.log('[sendDifyMessage] received', responseText, newConversationId)
responseText = ''
}
} catch (e) {
firstHalfMessage = message
console.error('[sendDifyMessage] error', message)
}
})
// stream 完结时把剩下的音讯全副收回去
response.data.on('end', () => {onMessage(responseText.replace('\n\n', ''))
})
} catch (e) {console.error("[sendDifyMessage] error", e)
}
}
async function asyncSendMessage(xml) {console.log('[asyncSendMessage] called', xml)
if (xml.MsgType[0] !== 'text') return
const message = xml.Content[0]
const userName = xml.FromUserName[0]
if (message === '/new') {
// 重置 conversation id
cloud.shared.set(genConversationKey(userName), null)
sendWxMessage('新建胜利,开始新的对话吧~~', userName)
return
}
sendWxMessage('AI 思考中, 请急躁期待~~', userName)
try {sendDifyMessage(message, userName, (message) => {sendWxMessage(message, userName)
})
}
catch (e) {console.error('[sendDifyMessage] error', e)
sendWxMessage('接口申请失败,请分割管理员查看错误信息', userName)
}
}
export default async function (ctx: FunctionContext) {const { query} = ctx
const {msg_signature, timestamp, nonce, echostr} = query
const token = process.env.WXWORK_TOKEN
const key = process.env.WXWORK_AESKEY
console.log('[main] called', ctx.method, ctx.request.url)
// 签名验证专用
if (ctx.method === 'GET') {const signature = getSignature(token, timestamp, nonce, echostr)
if (signature !== msg_signature) {return { message: '签名验证失败', code: 401}
}
const {message} = decrypt(key, echostr)
return message
}
const payload = ctx.body.xml
const encrypt = payload.encrypt[0]
const signature = getSignature(token, timestamp, nonce, encrypt)
if (signature !== msg_signature) {return { message: '签名验证失败', code: 401}
}
const {message} = decrypt(key, encrypt)
const {xml} = await xml2js.parseStringPromise(message)
// 因为 GPT API 耗时较久,这里提前返回,避免企业微信超时重试,后续再手动调用发消息接口
ctx.response.sendStatus(200)
await asyncSendMessage(xml)
return {message: true, code: 0}
}
援用链接
[1]
Dify: https://dify.ai/
[2]
Laf: https://laf.run/
[3]
【数据集治理】: https://docs.dify.ai/v/zh-hans/advanced/datasets
[4]
【创立利用】: https://docs.dify.ai/v/zh-hans/application/creating-an-applic…
[5]
https://forum.laf.run/d/556/3: https://forum.laf.run/d/556/3
对于 Laf
Laf 是一款为所有开发者打造的集函数、数据库、存储为一体的云开发平台,助你像写博客一样写代码,随时随地公布上线利用!3 分钟上线 ChatGPT 利用!
🌟GitHub:https://github.com/labring/laf
🏠官网(国内):https://laf.run
🌎官网(海内):https://laf.dev
💻开发者论坛:https://forum.laf.run
sealos 以 kubernetes 为内核的云操作系统发行版,让云原生简略遍及
laf 写代码像写博客一样简略,什么 docker kubernetes 通通不关怀,我只关怀写业务!