共计 5374 个字符，预计需要花费 14 分钟才能阅读完成。
描述
最近使用 node 实现了一个远程桌面监控的应用，分为服务端和客户端，客户端可以实时监控服务端的桌面，并且可以通过鼠标和键盘来控制服务端的桌面。
这里因为我是用的同一台电脑，所以监控画面是这样的，当然使用两台电脑一个跑客户端，一个跑服务端才有意义。
原理
其实这个应用的功能主要分为两部分，一是实现监控，即在客户端可以看到服务端的桌面，这部分功能是通过定时截图来实现的，比如服务端一秒截几次图，然后通过 socketio 发送到客户端，客户端通过改变 img 的 src 来实现一帧帧的显示最新的图片，这样就能看到动态的桌面了。监控就是这样实现的。
另一个功能是控制，即客户端对监控画面的操作，包括鼠标和键盘的操作都可以在服务端的桌面真正的生效，这部分功能的实现是在 electron 的应用中监听了所有的鼠标和键盘事件，比如 keydown、keyup、keypress，mousedown、mouseup、mousemove、click 等，然后通过 socketio 把事件传递到服务端，服务端通过 robot-js 来执行不同的事件，这样就能使得客户端的事件在服务端触发了。
实现
原理讲完，我们来具体实现一下（源码链接在这）。
实现 socket 通信
首先，服务端和客户端分别引入 socket.io 和socket.io-client, 分别初始化
服务端：
const app = new Koa();
const server = http.createServer(app.callback());
createSocketIO(server);
app.use((ctx): void => {ctx.body = 'please connect use socket';});
server.listen(port, (): void => {console.log('server started at http://localhost:' + port);
});//createSocketIO
const io = socketIO(server, {
pingInterval: 10000,
pingTimeout: 5000,
cookie: false
});
io.on('connect', (socket): void => {socket.emit('msg', 'connected');
}客户端：
var socket = this.socket = io('http://' + this.ip + ':3000')
socket.on('msg', (msg) => {console.log(msg)
})
socket.on('error', (err) => {alert('出错了' + err)
})这样，服务端和客户端就通过 socketio 建立了链接。
实现桌面监控
之后我们首先要在服务端来截图，使用 screenshot-desktop 这个包
const screenshot = require('screenshot-desktop')
const SCREENSHOT_INTERVAL = 500;
export const createScreenshot = (): Promise<[string, Buffer]> => {return screenshot({format: 'png'}).then((img): [string, Buffer] => {return [ img.toString('base64'), img];
}).catch((err): {} => {console.log('截图失败', err);
return err;
})
}
export const startScreenshotTimer = (callback): {} => {return setInterval((): void => {createScreenshot().then(([imgStr, img]): void => {callback(['data:image/png;base64,' + imgStr, img]);
})
}, SCREENSHOT_INTERVAL)
}
然后通过 socketio 的 emit 来传到客户端：
startScreenshotTimer(([imgStr, img]): void => {io.sockets.emit('screenshot', imgStr);
});客户端收到图片后，设置到 img 的 src 上（这里是 base64 的图片 url）:
<img
class="screenshot"
:src="screenshot"
/>data () {
return {screenshot: ''}
}socket.on('screenshot', (data) => {this.screenshot = data})其实这样就已经实现了桌面监控了，有兴趣的同学可以照着这个思路实现看看，并不是很麻烦。
当然这样的方案是有问题的，因为我们需要知道服务端桌面尺寸的大小，然后根据这个来调整客户端显示的图片尺寸。
实现这个细节是使用的 get-pixels 这个库，可以读取本地图片文件的宽度高度等信息，所以我先把图片写入本地，然后又读取出来，这样获取到的屏幕尺寸。
interface ScreenSize {
width: number;
height: number;
}
function getScreenSize(img): Promise<ScreenSize> {const imgPath = path.resolve(process.cwd(), './tmp.png');
fs.writeFileSync(imgPath, img);
return new Promise((resolve): void => {getPixels(imgPath, function(err, pixels): void {if(err) {console.log("Bad image path")
return
}
resolve({width: pixels.shape[0],
height: pixels.shape[1]
});
});
})
}
然后通过 socektio 传递给客户端
getScreenSize(img).then(({width, height}) => {
io.sockets.emit('screensize', {
width,
height
})
});客户端收到之后调整图片大小就可以了
<img
class="screenshot"
:src="screenshot"
:style="screenshotStyle"
/>data () {
return {
screenshot: '',
screenshotStyle: '',
}
}socket.on('screensize', (screensize) => {this.screenshotStyle = {'width': screensize.width + 'px', 'height': screensize.height + 'px'}
})至此已经实现了桌面监控，并且图片尺寸和服务端屏幕的尺寸是一致的。
这里还有一个细节，就是获取到的图片大小是物理像素，而客户端设置的 px 是设备无关像素，也就是要除以 dpr 才是 px 的值。这里需要获取 dpr，因为目前只是在 mac 下用，所以直接除以 2 了。
实现远程控制
代码写到这里，客户端的 electron 应用中已经可以实时显示服务端的桌面了。（当然像输入 ip 的弹框，以及 electron-vue 和 typescript 等和主要逻辑无关的细节就不展开了。）
接下来我们要实现远程控制，也就是监听事件，传递事件，执行事件这几部分。
首先我们定义一下传递的事件的格式：
interface MouseEvent {
type: string;
buttonType: string;
x: number;
y: number;
}
interface KeyboardEvent {
type: string;
keyCode: number;
keyName: string;
}鼠标事件 MouseEvent，type 为鼠标事件的类型，具体的值包括 mousedown、mouseup、mousemove、click、dblclick，buttonType 指的是鼠标的左键还是右键，值为 left 或 right，x 和 y 是具体的坐标。
键盘事件 KeyboardEvent，type 为键盘事件的类型，具体的值包括 keydown、keyup、keypress，keyCode 为键盘码，keyName 为键的名字。
接下来我们要在客户端监听事件：
<img
class="screenshot"
:src="screenshot"
:style="screenshotStyle"
@mousedown="handleMouseEvent"
@mousemove="handleMouseEvent"
@mouseup="handleMouseEvent"
@click="handleMouseEvent"
@dblclick="handleMouseEvent"
/>window.onkeypress = window.onkeyup = window.onkeydown = this.handleKeyboardEvent通过 socekt 把事件传递到服务端
handleKeyboardEvent (e) {
this.socket && this.socket.emit('userevent', {
type: 'keyboard',
event: {
type: e.type,
keyName: e.key,
keyCode: e.keyCode
}
})
},
handleMouseEvent (e) {
this.socket && this.socket.emit('userevent', {
type: 'mouse',
event: {
type: e.type,
buttonType: e.buttons === 2 ? 'right' : 'left',
x: e.offsetX,
y: e.offsetY
}
})
},然后在服务端把事件取出来执行，执行事件使用的是 robot-js：
const {Mouse, Point, Keyboard} = require('robot-js');
interface MouseEvent {
type: string;
buttonType: string;
x: number;
y: number;
}
interface KeyboardEvent {
type: string;
keyCode: number;
keyName: string;
}
export default class EventExecuter {
public mouse;
public keyboard;
public constructor(){this.mouse = new Mouse();
this.keyboard = new Keyboard();}
public executeKeyboardEvent(event: KeyboardEvent): void {switch(event.type) {
case 'keydown':
this.keyboard.press(event.keyCode);
break;
case 'keyup':
this.keyboard.release(event.keyCode);
break;
case 'keypress':
this.keyboard.click(event.keyCode);
break;
default: break;
}
}
public executeMouseEvent(event): void {Mouse.setPos(new Point(event.x, event.y));
const button = event.buttonType === 'left' ? 0 : 2
switch(event.type) {
case 'mousedown':
this.mouse.press(button);
break;
case 'mousemove':
break;
case 'mouseup':
this.mouse.release(button);
break;
case 'click':
this.mouse.click(button);
break;
case 'dblclick':
this.mouse.click(button);
this.mouse.click(button);
break;
default: break;
}
}
public exectue(eventInfo): void {console.log(eventInfo);
switch (eventInfo.type) {
case 'keyboard':
this.executeKeyboardEvent(eventInfo.event);
break;
case 'mouse':
this.executeMouseEvent(eventInfo.event);
break;
default: break;
}
}
}至此，桌面监控和远程控制的客户端还有服务端的部分，以及两端的通信都已经实现了。思路其实并不麻烦，但细节还是很多的。有兴趣的同学可以把代码下下来跑跑试试，或者按着这个思路自己实现一遍，还是挺好玩的。
源码链接
remote-monitor-server
remote-monitor-client
欢迎反馈，欢迎 star~