Dify 容许创立 AI 利用,并提供二次开发的能力。这里我将演示创立一个法律问答助手的 AI 利用,称作“知法”。在本篇教程中,我将领导你为“知法”接入企业微信。

laf前置筹备

  • 企业微信的管理员权限
  • 一个 Dify的帐号
  • 一个 Laf云的帐号
  • (可选)一个 OpenAI 的 API Key。如果没有,能够应用 Dify 收费提供的 200 次调用机会用于测试。
  • (可选)在电脑上新建一个 env.txt 的文件,将上面内容复制到 env.txt 中。在接下来的教程中,咱们会一步步把相干的信息填入这个文件。须要保存信息的步骤会高亮显示。

    WXWORK_TOKEN=""WXWORK_AESKEY=""WXWORK_CORPID=""WXWORK_AGENTID=""WXWORK_CORPSECRET=""DIFY_APPTOKEN=""

在 Dify 上制作利用

这一章节将会介绍如何创立一个法律常识的数据集,并将数据集和利用关联起来。

搭建法律常识数据集


随时查看文档中对于搭建数据集的更多操作:数据集治理

为了让“知法”理解到更多的上下文,咱们须要创立一个法律常识的数据库。

  • 导入文档:从电脑上导入法律常识的 PDF 文档。

  • 文本分段和荡涤:上传的文本须要通过二次加工,能力被大语言模型了解。这里咱们不须要关注具体的实现逻辑,间接抉择主动分段即可,而后点击“保留并解决”。

  • 文本嵌入:大概 30s 工夫,数据集就创立胜利了。你能够随时回来向数据库里增加更多文件。

搭建的利用


随时查看文档中对于创立利用的更多操作 创立利用
  • 创立利用:依据图中的批示,创立一个对话型利用,并命名为“知法”。

  • 关联数据集:在“提醒词编排”页,在“上下文”模块中增加抉择刚刚创立的数据集。

  • 公布模型:实现关联数据集后,点击页面右上角的“公布”,使模型失效。

获取 API 拜访密钥。在“拜访 API”页面,创立一个 API 密钥并复制保留为DIFY_APPTOKEN。请留神不要把密钥透露给任何人,免得造成财产损失。

创立企业微信利用

  • 记录企业信息:进入企业微信治理后盾-我的企业,记录这里的企业 ID 为 WXWORK_CORPID

  • 创立企业微信利用:进入利用治理页面,点击【创立利用】进入创立页面,填写利用信息后点击【创立利用】。如果曾经有现成的利用,能够跳过此步骤。

  • 记录企业微信利用信息:在利用治理页面点击刚刚创立好的利用,进入利用详情页面。记录这里的 AgentId 和 Secret(须要点击获取按钮,在企业微信聊天窗口外面获取),别离为WXWORK_AGENTID和WXWORK_CORPSECRET。

  • 企业微信利用接管信息:在利用详情页面,接管音讯处点击【设置 API 接管】。

在 API 接管音讯页面,点一下两个【随机获取】按钮,它会主动生成一个 Token 和 EncodingAESKey,咱们别离记为 WXWORK_TOKEN 和 WXWORK_AESKEY。留神,不要关掉这个页面,Laf 侧配置结束后咱们再来填写 URL。

在 Laf 云上创立云函数

  • 新建 Laf 云利用:进入 Laf 后,点击新建,创立一个云利用。这里抉择收费的打算即可。

  • 增加依赖:企业微信利用须要增加@wecom/crypto, xml2js 两个依赖。增加好后,你的依赖列表应该像上面一样。

  • 增加环境变量:从第二行开始,将下面步骤中收集到的所有内容全副粘贴到这里,点击更新。

  • 创立云函数:点击创立一个云函数,留神“申请办法”中勾选上POST, GET,点击确定。

在创立好云函数中,删除默认的代码,并将文末“附录”中的代码全副粘贴到这里。

  • 公布云函数:点击公布后,云函数就失效了。

当初把 URL 粘贴到企业微信后盾【设置 API 接管】的页面中刚刚留白的中央,而后点击保留。

  • 配置 IP 白名单:在企业微信中找到刚刚创立利用,发送一句音讯。不出意外收不到任何音讯。这是因为企业微信默认屏蔽了 Laf 云的 IP。

点击日志,该当能看到这样一条报错 'not allow to access from your ip'

点击查看这条日志详情,记录日志中给出的 Laf 云 IP。

回到企业微信的治理后盾,点击刚刚创立的利用,为利用配置可行 IP。

在这里把刚刚的日志中记录的 IP 填入即可。

验证成果

1.测试聊天:在企业微信中找到刚刚创立利用,发送一句音讯。当初该当能收到推送的音讯了。

援用

这篇深度参考以下文章,感激原作者的辛勤付出。https://forum.laf.run/d/556/3[5]

附录

企业微信利用代码 - (伪流式响应)

import cloud from '@lafjs/cloud'import { decrypt, getSignature } from '@wecom/crypto'import xml2js from 'xml2js'function genConversationKey(userName) {  return `${process.env.WXWORK_AGENTID}:${userName}`}function genWxAppAccessTokenKey() {  return `${process.env.WXWORK_AGENTID}:access-token`}async function getToken() {  console.log('[getToken] called')  const cache = cloud.shared.get(genWxAppAccessTokenKey())  if (cache && cache.expires >= Date.now()) return cache.token  const res = await cloud.fetch({    url: 'https://qyapi.weixin.qq.com/cgi-bin/gettoken',    method: 'GET',    params: {      corpid: process.env.WXWORK_CORPID,      corpsecret: process.env.WXWORK_CORPSECRET,    }  })  const token = res.data.access_token  cloud.shared.set(genWxAppAccessTokenKey(), { token, expires: Date.now() + res.data.expires_in * 1000 })  return token}async function sendWxMessage(message, user) {  console.log('[sendWxMessage] called', user, message)  const res = await cloud.fetch({    url: 'https://qyapi.weixin.qq.com/cgi-bin/message/send',    method: 'POST',    params: {      access_token: await getToken()    },    data: {      "touser": user,      "msgtype": "text",      "agentid": process.env.WXWORK_AGENTID,      "text": {        "content": message      },      "safe": 0,      "enable_id_trans": 0,      "enable_duplicate_check": 0,      "duplicate_check_interval": 1800    },  })  console.log('[sendWxMessage] received', res.data)}async function sendDifyMessage(message, userName, onMessage) {  console.log('[sendDifyMessage] called', message, userName)  const conversationId = cloud.shared.get(genConversationKey(userName)) || null  let newConversationId = ''  let responseText = ''  try {    const response = await cloud.fetch({      url: 'https://api.dify.ai/v1/chat-messages',      method: 'POST',      headers: {        'Authorization': `Bearer ${process.env.DIFY_APPTOKEN}`      },      data: {        inputs: {},        response_mode: "streaming",        query: message,        user: userName,        conversation_id: conversationId      },      responseType: "stream"    })    let firstHalfMessage = ''    response.data.on('data', (data) => {      let message = data.toString()      try {        if (firstHalfMessage) {          message += firstHalfMessage          firstHalfMessage = ''        }        // 查看是不是sse协定        if (!message.startsWith('data: ')) return        const parsedChunk: Record<string, any> = JSON.parse(message.substring(6))        if (!newConversationId) {          newConversationId = parsedChunk.conversation_id          cloud.shared.set(genConversationKey(userName), newConversationId)        }        const { answer } = parsedChunk        responseText += answer        // 伪流式响应        if (answer.endsWith('\n\n') || (responseText.length > 120 && /[?。;!]$/.test(responseText))) {          onMessage(responseText.replace('\n\n', ''))          console.log('[sendDifyMessage] received', responseText, newConversationId)          responseText = ''        }      } catch (e) {        firstHalfMessage = message        console.error('[sendDifyMessage] error', message)      }    })    // stream完结时把剩下的音讯全副收回去    response.data.on('end', () => {      onMessage(responseText.replace('\n\n', ''))    })  } catch (e) {    console.error("[sendDifyMessage] error", e)  }}async function asyncSendMessage(xml) {  console.log('[asyncSendMessage] called', xml)  if (xml.MsgType[0] !== 'text') return  const message = xml.Content[0]  const userName = xml.FromUserName[0]  if (message === '/new') {    // 重置conversation id    cloud.shared.set(genConversationKey(userName), null)    sendWxMessage('新建胜利,开始新的对话吧~~', userName)    return  }  sendWxMessage('AI思考中, 请急躁期待~~', userName)  try {    sendDifyMessage(message, userName, (message) => {      sendWxMessage(message, userName)    })  }  catch (e) {    console.error('[sendDifyMessage] error', e)    sendWxMessage('接口申请失败,请分割管理员查看错误信息', userName)  }}export default async function (ctx: FunctionContext) {  const { query } = ctx  const { msg_signature, timestamp, nonce, echostr } = query  const token = process.env.WXWORK_TOKEN  const key = process.env.WXWORK_AESKEY  console.log('[main] called', ctx.method, ctx.request.url)  // 签名验证专用  if (ctx.method === 'GET') {    const signature = getSignature(token, timestamp, nonce, echostr)    if (signature !== msg_signature) {      return { message: '签名验证失败', code: 401 }    }    const { message } = decrypt(key, echostr)    return message  }  const payload = ctx.body.xml  const encrypt = payload.encrypt[0]  const signature = getSignature(token, timestamp, nonce, encrypt)  if (signature !== msg_signature) {    return { message: '签名验证失败', code: 401 }  }  const { message } = decrypt(key, encrypt)  const {    xml  } = await xml2js.parseStringPromise(message)  // 因为GPT API耗时较久,这里提前返回,避免企业微信超时重试,后续再手动调用发消息接口  ctx.response.sendStatus(200)  await asyncSendMessage(xml)  return { message: true, code: 0 }}

援用链接

[1]
Dify: https://dify.ai/

[2]
Laf: https://laf.run/

[3]
【数据集治理】: https://docs.dify.ai/v/zh-hans/advanced/datasets

[4]
【创立利用】: https://docs.dify.ai/v/zh-hans/application/creating-an-applic...

[5]
https://forum.laf.run/d/556/3: https://forum.laf.run/d/556/3

对于 Laf

Laf 是一款为所有开发者打造的集函数、数据库、存储为一体的云开发平台,助你像写博客一样写代码,随时随地公布上线利用!3 分钟上线 ChatGPT 利用!

GitHub:https://github.com/labring/laf

官网(国内):https://laf.run

官网(海内):https://laf.dev

开发者论坛:https://forum.laf.run

sealos 以kubernetes为内核的云操作系统发行版,让云原生简略遍及

laf 写代码像写博客一样简略,什么docker kubernetes通通不关怀,我只关怀写业务!