咱们是袋鼠云数栈 UED 团队,致力于打造优良的一站式数据中台产品。咱们始终保持工匠精力,摸索前端路线,为社区积攒并流传教训价值。

本文作者:琉易 https://liuxianyu.cn

本次分享基于『袋鼠云数栈UED团队』新公布的 UED Landing 页 实际得来,UED Landing 页汇合了团队目前所有的根底建设以及精选文章,是团队展示风采的一个中央。
我的项目基于 next.js、ts、pnpm、koa2、MongoDB 等技术形式实现,代码仓库:https://github.com/DTStack/UED,欢送 star。

需要介绍

Landing 页有一个专栏页面,须要展现团队以往发在掘金社区的文章、对应的标签以及其余社区入口。

设计思路

基于上述的需要剖析后,进行以下设计:

1、通过 node-schedule设置一个定时工作,每天去申请掘金的接口查问最新的文章数据,包含每篇文章的题目、公布人、浏览量、公布日期、标签等;

2、将上述办法拿到的数据处理后存入 MongoDB 数据库,只保留须要的字段;

3、提供一个 RESTful 格调的接口,分页返回文章列表和标签列表,供专栏页面查问应用;

4、页面申请接口,查问标签、文章数据 ,渲染页面。

实现步骤

以下实现步骤比拟具体,相似的需要也能够按以下步骤去实现。

Docker 装置 MongoDB

1、下载镜像

docker pull mongo

2、创立挂载文件夹

mkdir -p /opt/dtstack/docker/mongocd /opt/dtstack/docker/mongo

3、启动容器

docker run -v /opt/dtstack/docker/mongo:/data/db --name mongodb -p 27019:27017 -e MONGO_INITDB_ROOT_USERNAME=root -e MONGO_INITDB_ROOT_PASSWORD='Admin123!@#' -d mongo --auth

命令解释

  • -v 挂载本地文件夹,存储数据
  • -name 给容器指定名称
  • -p 示意端口映射,-p 宿主机port:容器port,这里不应用雷同端口是为了避免攻打
  • -e 携带明码等参数
  • -d 后盾运行容器
  • --auth MongoDB 进行权限校验

4、进入容器

docker exec -it mongodb mongo admin
留神:
rpc error: code = 2 desc = oci runtime error: exec failed: container_linux.go:235: starting container process caused “exec: “mongo”: executable file not found in $PATH”.
如果呈现上述报错,是下载的 mongodb 镜像版本比拟高,mongodb 5.0 以上的版本须要应用 mongosh命令来代替原来的 mongo 命令。
docker exec -it mongodb mongosh admin

5、验证用户名明码登录
返回 1 代表登录胜利。

db.auth('root', 'Admin123!@#')

6、应用数据库

use landingDB

7、创立数据库的管理员

db.createUser({ user: "landing-user", pwd: "landing-admin.1234", roles: [{ role: "readWrite", db: "landingDB" }] })

MongoDB 不容许同一窗口有多个用户登录,退出再次进入终端:

db.auth('landing-user', 'landing-admin.1234')

8、创立表

db.createCollection('article')db.createCollection('tag')

9、测试插入数据

db.article.insert({ id: 1, title: '测试文章题目' })

10、通过 MongoDB Compass 连贯数据库

mongodb://landing-user:landing-admin.1234@127.0.0.1:27019/landingDB


编写 node 服务

1、借助 koa2 启动 node 服务

服务入口处新建定时工作,每天去掘金获取文章数据

// 引入模块const Koa = require('koa')const schedule = require('node-schedule')// 实例化const app = new Koa()const main = async () => {    await initDB()    // 保留文章列表    const articleList = await getJueJinArticleList()    await insertArticles(articleList)    // 保留标签列表    const tagList = getTagList(articleList)    await insertTags(tagList)}app.listen(envJson.appPort, () => {    console.log(`app runs on port ${ envJson.appPort }`)    schedule.scheduleJob(cron, main)})

2、将查问的数据存入数据库,并解决历史数据

const { MongoClient } = require('mongodb')const url = `mongodb://${username}:${password}@${host}:${port}/${dbName}`const client = new MongoClient(url)// 初始化数据库链接const initDB = async () => {    await client.connect()    console.log('Connected successfully to mongodb')}// 新增查问到的文章列表const insertArticles = async (articleList) => {    const db = client.db(dbName)    const collection = db.collection('article')    const updateResult = await collection.updateMany({ isDelete: 0 }, { $set: { isDelete: 1, updateTime: getDateStr() } })    console.log('updateArticles documents =>', updateResult)    const insertResult = await collection.insertMany(articleList)    console.log('insertArticles documents =>', insertResult)}

3、提供接口,从数据库读取数据
接口文档

const Router = require('koa-router')const router = new Router()router.get('/api/getTagList', async (ctx) => {    try {        const db = client.db(dbName)        const collection = db.collection('tag')                const data = await collection.find({ isDelete: 0 }).toArray()        ctx.body = {            code: 200,            data,            message: '胜利',        }    } catch (error) {        ctx.body = {            code: 1,            error        }    }})

编写页面

1、页面申请接口,拿到文章数据进行渲染,在标签、分页等参数变动时从新申请接口

useEffect(() => {    const params = {        page,        pageSize,        tag_id,        sort_type,    }    fetch(`/api/getArticleList?${new URLSearchParams(params).toString()}`)        .then(res => res.json())        .then(res => {            const { articleList, total } = res.data            setArticleList(articleList || [])            setTotal(total || [])        })}, [tag_id, sort_type, page])

部署形式

一台 CentOS 服务器,装置 node 14+,pnpm,pm2,Docker(可选),MongoDB,nginx。

mkdir -p /opt/dtstackgit clone https://github.com/DTStack/UED.gitcd UEDpnpm ipnpm deploy

因为后端服务的接口个别不对外裸露,此处通过 nginx 进行转发:

# ued landing 的 nginx 配置# httpserver {  listen          80;  server_name     ued.dtstack.cn;  location / {    proxy_pass http://localhost:3004/;  }  location /api {    proxy_pass http://localhost:3002/api;  }}

实现成果

http://ued.dtstack.cn/article