关于前端:搭建自动化-Web-页面性能检测系统-实现篇

47次阅读

共计 7172 个字符,预计需要花费 18 分钟才能阅读完成。

咱们是袋鼠云数栈 UED 团队,致力于打造优良的一站式数据中台产品。咱们始终保持工匠精力,摸索前端路线,为社区积攒并流传教训价值。。

本文作者:琉易 liuxianyu.cn

前段时间分享了《搭建自动化 Web 页面性能检测零碎 —— 设计篇》,咱们提到了性能检测的一些名词和自研性能检测零碎的起因,也简略介绍了一下零碎的设计。在这里咱们书接上篇记录下是如何实现一个性能检测零碎的。

开始前欢送大家 Star:https://github.com/DTStack/yice-performance

先看下性能检测零碎 —— 易测的实现成果:

一、技术选型

服务端框架抉择的是 Nestjs,Web 页面抉择的是 Vite + React。因为所在团队以后的研发环境曾经全面接入自研的 devops 零碎,易测收录的页面也是对接 devops 进行检测的。

1.1、整体架构设计

易测的检测服务基于 Lighthouse + Puppeteer 实现。下图是易测的一个整体架构图:

1.2、实现计划

易测的检测流程是:依据子产品的版本获取到待检测的地址、对应的登录地址、用户名和明码,而后通过 Puppeteer 先跳转到对应的登录页面,接着由 Puppeteer 输出用户名、明码、验证码,待登录实现后跳转至待检测的页面,再进行页面性能检测。如果登录后还在登录页,示意登录失败,则获取谬误提醒并抛出到日志。为了检测不便,检测的均为开发环境且将登录的验证码校验敞开。

以下是易测的检测流程图:

二、Lighthouse

易测通过 Node 模块引入 Lighthouse,不须要登录的页面检测能够间接应用 Lighthouse,根底用法:

const lighthouse = require('lighthouse');
const runResult = await lighthouse(url, lhOptions, lhConfig);

2.1、options

lhOptions 的主要参数有:

{
  port: PORT, // chrome 运行的端口
  logLevel: 'error',
  output: 'html', // 以 html 文件的形式输入报告
  onlyCategories: ['performance'], // 仅采集 performance 数据
  disableStorageReset: true, // 禁止在运行前革除浏览器缓存和其余存储 API
}

2.2、config

lhConfig 的主要参数有:

{
  extends: 'lighthouse:default', // 继承默认配置
  settings: {onlyCategories: ['performance'],
    // onlyAudits: ['first-contentful-paint'],
    formFactor: 'desktop',
    throttling: {
      rttMs: 0, // 网络提早,单位 ms
      throughputKbps: 10 * 1024,
      cpuSlowdownMultiplier: 1,
      requestLatencyMs: 0, // 0 means unset
      downloadThroughputKbps: 0,
      uploadThroughputKbps: 0,
    },
    screenEmulation: {
      mobile: false,
      width: 1440,
      height: 960,
      deviceScaleFactor: 1,
      disabled: false,
    },
    skipAudits: ['uses-http2'], // 跳过的查看
    emulatedUserAgent: 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4695.0 Safari/537.36 Chrome-Lighthouse',
  },
}

settings 属于 Lighthouse 的运行时配置,次要是用来模仿网络和设施的信息,以及应用到哪些审查器。如果检测的页面有 web 端和 h5 端之分,也是在 settings 进行配置。

检测后果会有总分、各小项的耗时、瀑布图、改良倡议等,如下:

三、Puppeteer

须要登录后能力拜访的页面波及到登录、点击等操作,咱们须要借助 Puppeteer 来模仿点击。根底用法:

const puppeteer = require('puppeteer');

const browser = await puppeteer.launch(puppeteerConfig);
const page = await browser.newPage();

3.1、puppeteerConfig

{args: ['--no-sandbox', '--disable-setuid-sandbox', `--remote-debugging-port=${PORT}`],
  headless: true, // 是否应用无头浏览器
  defaultViewport: {width: 1440, height: 960}, // 指定关上页面的宽高
  slowMo: 15, // 使 Puppeteer 操作加速,能够察看到 Puppeteer 的操作
}

headless 为 false 时不便本地调试,通过调整 slowMo 的大小能够察看到 Puppeteer 的模仿操作。

四、开始检测

4.1、主办法

const taskRun = async (task: ITask, successCallback, failCallback, completeCallback) => {const { taskId, start, url, loginUrl} = task;
  try {
    // 根据是否蕴含 devops 来判断是否须要登录
    const needLogin = url.includes('devops') || loginUrl;
    console.log(`\ntaskId: ${taskId}, 本次检测 ${needLogin ? '':' 不 '} 须要登录,检测地址:`,
      url
    );

    // 须要登录与否会决定应用哪个办法
    const runResult = needLogin ? await withLogin(task) : await withOutLogin(task);

    // 保留检测后果的报告文件,便于预览
    const urlStr = url.replace(/http(s?):\/\//g, '').replace(/\/|#/g,'');
    const fileName = `${moment().format('YYYY-MM-DD')}-${taskId}-${urlStr}`;
    const filePath = `./static/${fileName}.html`;
    const reportPath = `/report/${fileName}.html`;
    fs.writeFileSync(filePath, runResult?.report);

    // 整顿性能数据
    const audits = runResult?.lhr?.audits || {};
    const auditRefs =
      runResult?.lhr?.categories?.performance?.auditRefs?.filter((item) => item.weight) || [];
    const {score = 0} = runResult?.lhr?.categories?.performance || {};

    const performance = [];
    for (const auditRef of auditRefs) {const { weight, acronym} = auditRef;
      const {score, numericValue} = audits[auditRef.id] || {};
      if (numericValue === undefined) {
        throw new Error(` 检测后果呈现问题,没有单项检测时长,${JSON.stringify(audits[auditRef.id])}`
        );
      }
      performance.push({
        weight,
        name: acronym,
        score: Math.floor(score * 100),
        duration: Math.round(numericValue * 100) / 100,
      });
    }
    const duration = Number((new Date().getTime() - start).toFixed(2));

    // 汇总检测后果
    const result = {score: Math.floor(score * 100),
      duration,
      reportPath,
      performance,
    };

    // 抛出后果
    await successCallback(taskId, result);

    console.log(`taskId: ${taskId}, 本次检测耗时:${duration}ms`);
    return result;
  } catch (error) {
    // 错误处理
    const failReason = error.toString().substring(0, 10240);
    const duration = Number((new Date().getTime() - start).toFixed(2));
    await failCallback(task, failReason, duration);
    console.error(`taskId: ${taskId}, taskRun error`, `taskRun error, ${failReason}`);
    throw error;
  } finally {completeCallback();
  }
};

4.2、不须要登录

const withOutLogin = async (runInfo: ITask) => {const { taskId, url} = runInfo;
  let chrome, runResult;
  try {console.log(`taskId: ${taskId}, 开始检测 `);

    // 通过 API 管制 Node 端的 chrome 关上标签页,借助 Lighthouse 检测页面
    chrome = await chromeLauncher.launch(chromeLauncherOptions);
    runResult = await lighthouse(url, getLhOptions(chrome.port), lhConfig);
    
    console.log(`taskId: ${taskId}, 检测实现,开始整顿数据 `);
  } catch (error) {console.error(`taskId: ${taskId}, 检测失败 `, ` 检测失败,${error?.toString()}`);
    throw error;
  } finally {await chrome.kill();
  }

  return runResult;
};

4.3、须要登录

const withLogin = async (runInfo: ITask) => {const { taskId, url} = runInfo;
  
  // 创立 puppeteer 无头浏览器
  const browser = await puppeteer.launch(getPuppeteerConfig(PORT));
  const page = await browser.newPage();

  let runResult;
  try {
    // 登录
    await toLogin(page, runInfo);
    // 抉择租户
    await changeTenant(page, taskId);

    console.log(`taskId: ${taskId}, 筹备工作实现,开始检测 `);

    // 开始检测
    runResult = await lighthouse(url, getLhOptions(PORT), lhConfig);
    
    console.log(`taskId: ${taskId}, 检测实现,开始整顿数据 `);
  } catch (error) {console.error(`taskId: ${taskId}, 检测出错 `, `${error?.toString()}`);
    throw error;
  } finally {
    // 检测完结敞开标签页、无头浏览器
    await page.close();
    await browser.close();}

  return runResult;
};

4.4、模仿登录

所在团队的子产品均须要登录后能力拜访,且每次检测关上的都是相似无痕浏览器的标签页,不存在登录信息的缓存,所以每次检测这些页背后须要实现登录操作:

const toLogin = async (page, runInfo: ITask) => {const { taskId, loginUrl, username, password} = runInfo;
  try {await page.goto(loginUrl);
    // 期待指定的选择器匹配元素呈现在页面中
    await page.waitForSelector('#username', { visible: true});

    // 用户名、明码、验证码
    const usernameInput = await page.$('#username');
    await usernameInput.type(username);
    const passwordInput = await page.$('#password');
    await passwordInput.type(password);
    const codeInput = await page.$('.c-login__container__form__code__input');
    await codeInput.type('bz4x');

    // 登录按钮
    await page.click('.c-login__container__form__btn');
    // await page.waitForNavigation();
    await sleep(Number(process.env.RESPONSE_SLEEP || 0) * 2);

    const currentUrl = await page.url();
    // 根据是否蕴含 login 来判断是否须要登录,若跳转之后仍在登录页,阐明登录出错
    if (currentUrl.includes('login')) {throw new Error(`taskId: ${taskId}, 登录失败,仍在登录页面 `);
    } else {console.log(`taskId: ${taskId}, 登录胜利 `);
    }
  } catch (error) {console.error(`taskId: ${taskId}, 登录出错 `, error?.toString());
    throw error;
  }
};

4.5、得分落库

期待所有的检测步骤都实现后,在 successCallback 办法中解决检测数据,此时可依据不同的性能指标计算得出最终得分和小项得分,对立落库。

五、自动检测

除了能够在页面手动触发检测,易测次要应用的是自动检测。自动检测的目标是不便统计所有子产品的性能趋势,便于剖析各版本间的性能变动,以及子产品间的性能优劣,最终得出优化方向。

5.1、工作被动调度

易测试运行阶段,因为应用的是开发环境进行检测,所以将自动检测工夫设置为工作工夫的间隙,缩小影响检测后果的烦扰因素,后续正式部署后,也将调低检测的频率。

自动检测能够被动进行工作的调度,也能够手动触发工作,借助 @nestjs/schedule 实现定时工作:

import {Cron} from '@nestjs/schedule';

export class TaskRunService {
  // 每分钟执行一次 https://docs.nestjs.com/techniques/task-scheduling#declarative-cron-jobs
  @Cron('0 * * * * *')
  async handleCron() {
    // 检测版本的 cron 合乎以后工夫运行的则创立工作
    process.env.NODE_ENV === 'production' && this.checkCronForCurrentDate();}
}

5.2、失败告警

检测失败会有钉钉告诉,点击可疾速跳转至易测内查看具体起因。

5.3、性能趋势图

由下方的趋势图简略剖析后,能够得出子产品版本间的性能变动。

六、对接外部零碎

6.1、对接 Jenkins

所在团队的子产品在版本间做了一些脚手架的封装降级,对接 Jenkins 就能够采集到各个版本间构建时长和构建后的文件大小等信息的变动,有助于性能相干数据的汇总、脚手架的剖析改良。
在 Jenkins 的构建回调里,解决后能够拿到构建时长和构建后的文件大小等信息,由 Jenkins 调用易测提供的接口,按分支解决好版本后将数据落库,在易测中展现进去。

七、结尾

如果你也筹备搭建一个本人团队的检测零碎,能够参考下易测的设计思路,心愿这两篇文章对你的工作有所助力。
实现上述工作后,接下来须要思考的有易测性能的权限管制、数据分析、如何依据业务场景进行检测等方面。毕竟 Lighthouse 检测的个别是单个页面,而业务场景个别是工作流程的编排即流程的整体操作。

最初,欢送大家不吝 Star:https://github.com/DTStack/yice-performance


最初

欢送关注【袋鼠云数栈 UED 团队】~
袋鼠云数栈 UED 团队继续为宽广开发者分享技术成绩,相继参加开源了欢送 star

  • 大数据分布式任务调度零碎——Taier
  • 轻量级的 Web IDE UI 框架——Molecule
  • 针对大数据畛域的 SQL Parser 我的项目——dt-sql-parser
  • 袋鼠云数栈前端团队代码评审工程实际文档——code-review-practices
  • 一个速度更快、配置更灵便、应用更简略的模块打包器——ko

正文完
 0