Dify 容许创立 AI 利用,并提供二次开发的能力。这里我将演示创立一个法律问答助手的 AI 利用,称作“知法”。在本篇教程中,我将领导你为“知法”接入企业微信。
laf前置筹备
- 企业微信的管理员权限
- 一个 Dify的帐号
- 一个 Laf云的帐号
- (可选)一个 OpenAI 的 API Key。如果没有,能够应用 Dify 收费提供的 200 次调用机会用于测试。
(可选)在电脑上新建一个 env.txt 的文件,将上面内容复制到 env.txt 中。在接下来的教程中,咱们会一步步把相干的信息填入这个文件。须要保存信息的步骤会高亮显示。
WXWORK_TOKEN=""WXWORK_AESKEY=""WXWORK_CORPID=""WXWORK_AGENTID=""WXWORK_CORPSECRET=""DIFY_APPTOKEN=""
在 Dify 上制作利用
这一章节将会介绍如何创立一个法律常识的数据集,并将数据集和利用关联起来。
搭建法律常识数据集
❝
随时查看文档中对于搭建数据集的更多操作:数据集治理
为了让“知法”理解到更多的上下文,咱们须要创立一个法律常识的数据库。
- 导入文档:从电脑上导入法律常识的 PDF 文档。
- 文本分段和荡涤:上传的文本须要通过二次加工,能力被大语言模型了解。这里咱们不须要关注具体的实现逻辑,间接抉择主动分段即可,而后点击“保留并解决”。
- 文本嵌入:大概 30s 工夫,数据集就创立胜利了。你能够随时回来向数据库里增加更多文件。
搭建的利用
❝
随时查看文档中对于创立利用的更多操作 创立利用
- 创立利用:依据图中的批示,创立一个对话型利用,并命名为“知法”。
- 关联数据集:在“提醒词编排”页,在“上下文”模块中增加抉择刚刚创立的数据集。
- 公布模型:实现关联数据集后,点击页面右上角的“公布”,使模型失效。
获取 API 拜访密钥。在“拜访 API”页面,创立一个 API 密钥并复制保留为DIFY_APPTOKEN。请留神不要把密钥透露给任何人,免得造成财产损失。
创立企业微信利用
- 记录企业信息:进入企业微信治理后盾-我的企业,记录这里的企业 ID 为 WXWORK_CORPID
- 创立企业微信利用:进入利用治理页面,点击【创立利用】进入创立页面,填写利用信息后点击【创立利用】。如果曾经有现成的利用,能够跳过此步骤。
- 记录企业微信利用信息:在利用治理页面点击刚刚创立好的利用,进入利用详情页面。记录这里的 AgentId 和 Secret(须要点击获取按钮,在企业微信聊天窗口外面获取),别离为WXWORK_AGENTID和WXWORK_CORPSECRET。
- 企业微信利用接管信息:在利用详情页面,接管音讯处点击【设置 API 接管】。
在 API 接管音讯页面,点一下两个【随机获取】按钮,它会主动生成一个 Token 和 EncodingAESKey,咱们别离记为 WXWORK_TOKEN 和 WXWORK_AESKEY。留神,不要关掉这个页面,Laf 侧配置结束后咱们再来填写 URL。
在 Laf 云上创立云函数
- 新建 Laf 云利用:进入 Laf 后,点击新建,创立一个云利用。这里抉择收费的打算即可。
- 增加依赖:企业微信利用须要增加@wecom/crypto, xml2js 两个依赖。增加好后,你的依赖列表应该像上面一样。
- 增加环境变量:从第二行开始,将下面步骤中收集到的所有内容全副粘贴到这里,点击更新。
- 创立云函数:点击创立一个云函数,留神“申请办法”中勾选上POST, GET,点击确定。
在创立好云函数中,删除默认的代码,并将文末“附录”中的代码全副粘贴到这里。
- 公布云函数:点击公布后,云函数就失效了。
当初把 URL 粘贴到企业微信后盾【设置 API 接管】的页面中刚刚留白的中央,而后点击保留。
- 配置 IP 白名单:在企业微信中找到刚刚创立利用,发送一句音讯。不出意外收不到任何音讯。这是因为企业微信默认屏蔽了 Laf 云的 IP。
点击日志,该当能看到这样一条报错 'not allow to access from your ip'
点击查看这条日志详情,记录日志中给出的 Laf 云 IP。
回到企业微信的治理后盾,点击刚刚创立的利用,为利用配置可行 IP。
在这里把刚刚的日志中记录的 IP 填入即可。
验证成果
1.测试聊天:在企业微信中找到刚刚创立利用,发送一句音讯。当初该当能收到推送的音讯了。
援用
这篇深度参考以下文章,感激原作者的辛勤付出。https://forum.laf.run/d/556/3[5]
附录
企业微信利用代码 - (伪流式响应)
import cloud from '@lafjs/cloud'import { decrypt, getSignature } from '@wecom/crypto'import xml2js from 'xml2js'function genConversationKey(userName) { return `${process.env.WXWORK_AGENTID}:${userName}`}function genWxAppAccessTokenKey() { return `${process.env.WXWORK_AGENTID}:access-token`}async function getToken() { console.log('[getToken] called') const cache = cloud.shared.get(genWxAppAccessTokenKey()) if (cache && cache.expires >= Date.now()) return cache.token const res = await cloud.fetch({ url: 'https://qyapi.weixin.qq.com/cgi-bin/gettoken', method: 'GET', params: { corpid: process.env.WXWORK_CORPID, corpsecret: process.env.WXWORK_CORPSECRET, } }) const token = res.data.access_token cloud.shared.set(genWxAppAccessTokenKey(), { token, expires: Date.now() + res.data.expires_in * 1000 }) return token}async function sendWxMessage(message, user) { console.log('[sendWxMessage] called', user, message) const res = await cloud.fetch({ url: 'https://qyapi.weixin.qq.com/cgi-bin/message/send', method: 'POST', params: { access_token: await getToken() }, data: { "touser": user, "msgtype": "text", "agentid": process.env.WXWORK_AGENTID, "text": { "content": message }, "safe": 0, "enable_id_trans": 0, "enable_duplicate_check": 0, "duplicate_check_interval": 1800 }, }) console.log('[sendWxMessage] received', res.data)}async function sendDifyMessage(message, userName, onMessage) { console.log('[sendDifyMessage] called', message, userName) const conversationId = cloud.shared.get(genConversationKey(userName)) || null let newConversationId = '' let responseText = '' try { const response = await cloud.fetch({ url: 'https://api.dify.ai/v1/chat-messages', method: 'POST', headers: { 'Authorization': `Bearer ${process.env.DIFY_APPTOKEN}` }, data: { inputs: {}, response_mode: "streaming", query: message, user: userName, conversation_id: conversationId }, responseType: "stream" }) let firstHalfMessage = '' response.data.on('data', (data) => { let message = data.toString() try { if (firstHalfMessage) { message += firstHalfMessage firstHalfMessage = '' } // 查看是不是sse协定 if (!message.startsWith('data: ')) return const parsedChunk: Record<string, any> = JSON.parse(message.substring(6)) if (!newConversationId) { newConversationId = parsedChunk.conversation_id cloud.shared.set(genConversationKey(userName), newConversationId) } const { answer } = parsedChunk responseText += answer // 伪流式响应 if (answer.endsWith('\n\n') || (responseText.length > 120 && /[?。;!]$/.test(responseText))) { onMessage(responseText.replace('\n\n', '')) console.log('[sendDifyMessage] received', responseText, newConversationId) responseText = '' } } catch (e) { firstHalfMessage = message console.error('[sendDifyMessage] error', message) } }) // stream完结时把剩下的音讯全副收回去 response.data.on('end', () => { onMessage(responseText.replace('\n\n', '')) }) } catch (e) { console.error("[sendDifyMessage] error", e) }}async function asyncSendMessage(xml) { console.log('[asyncSendMessage] called', xml) if (xml.MsgType[0] !== 'text') return const message = xml.Content[0] const userName = xml.FromUserName[0] if (message === '/new') { // 重置conversation id cloud.shared.set(genConversationKey(userName), null) sendWxMessage('新建胜利,开始新的对话吧~~', userName) return } sendWxMessage('AI思考中, 请急躁期待~~', userName) try { sendDifyMessage(message, userName, (message) => { sendWxMessage(message, userName) }) } catch (e) { console.error('[sendDifyMessage] error', e) sendWxMessage('接口申请失败,请分割管理员查看错误信息', userName) }}export default async function (ctx: FunctionContext) { const { query } = ctx const { msg_signature, timestamp, nonce, echostr } = query const token = process.env.WXWORK_TOKEN const key = process.env.WXWORK_AESKEY console.log('[main] called', ctx.method, ctx.request.url) // 签名验证专用 if (ctx.method === 'GET') { const signature = getSignature(token, timestamp, nonce, echostr) if (signature !== msg_signature) { return { message: '签名验证失败', code: 401 } } const { message } = decrypt(key, echostr) return message } const payload = ctx.body.xml const encrypt = payload.encrypt[0] const signature = getSignature(token, timestamp, nonce, encrypt) if (signature !== msg_signature) { return { message: '签名验证失败', code: 401 } } const { message } = decrypt(key, encrypt) const { xml } = await xml2js.parseStringPromise(message) // 因为GPT API耗时较久,这里提前返回,避免企业微信超时重试,后续再手动调用发消息接口 ctx.response.sendStatus(200) await asyncSendMessage(xml) return { message: true, code: 0 }}
援用链接
[1]
Dify: https://dify.ai/
[2]
Laf: https://laf.run/
[3]
【数据集治理】: https://docs.dify.ai/v/zh-hans/advanced/datasets
[4]
【创立利用】: https://docs.dify.ai/v/zh-hans/application/creating-an-applic...
[5]
https://forum.laf.run/d/556/3: https://forum.laf.run/d/556/3
对于 Laf
Laf 是一款为所有开发者打造的集函数、数据库、存储为一体的云开发平台,助你像写博客一样写代码,随时随地公布上线利用!3 分钟上线 ChatGPT 利用!
GitHub:https://github.com/labring/laf
官网(国内):https://laf.run
官网(海内):https://laf.dev
开发者论坛:https://forum.laf.run
sealos 以kubernetes为内核的云操作系统发行版,让云原生简略遍及
laf 写代码像写博客一样简略,什么docker kubernetes通通不关怀,我只关怀写业务!