关于java:实现web实时消息推送的7种方案

78次阅读

共计 9429 个字符,预计需要花费 24 分钟才能阅读完成。

我有一个敌人~

做了一个小破站,当初要实现一个站内信 web 音讯推送的性能,对,就是下图这个小红点,一个很罕用的性能。

不过他还没想好用什么形式做,这里我帮他整顿了一下几种计划,并简略做了实现。

什么是音讯推送(push)

推送的场景比拟多,比方有人关注我的公众号,这时我就会收到一条推送音讯,以此来吸引我点击关上利用。

音讯推送 (push) 通常是指网站的经营工作等人员,通过某种工具对用户以后网页或挪动设施 APP 进行的被动音讯推送。

音讯推送个别又分为 web 端音讯推送和挪动端音讯推送。

上边的这种属于挪动端音讯推送,web 端音讯推送常见的诸如站内信、未读邮件数量、监控报警数量等,利用得也十分宽泛。

在具体实现之前,咱们再来剖析一下前边的需要,其实性能很简略,只有触发某个事件(被动分享了资源或者后盾被动推送音讯),web 页面的告诉小红点就会实时的 + 1 就能够了。

通常在服务端会有若干张音讯推送表,用来记录用户触发不同事件所推送不同类型的音讯,前端被动查问(拉)或者被动接管(推)用户所有未读的音讯数。

音讯推送无非是推(push)和拉(pull)两种模式,下边咱们一一理解下。

短轮询

轮询 (polling) 应该是实现音讯推送计划中最简略的一种,这里咱们暂且将轮询分为短轮询和长轮询。

短轮询很好了解,指定的工夫距离,由浏览器向服务器收回 HTTP 申请,服务器实时返回未读音讯数据给客户端,浏览器再做渲染显示。

一个简略的 JS 定时器就能够搞定,每秒钟申请一次未读音讯数接口,返回的数据展现即可。

setInterval(() => {
  // 办法申请
  messageCount().then((res) => {if (res.code === 200) {this.messageCount = res.data}
  })
}, 1000);

成果还是能够的,短轮询实现诚然简略,毛病也是不言而喻,因为推送数据并不会频繁变更,无论后端此时是否有新的音讯产生,客户端都会进行申请,势必会对服务端造成很大压力,节约带宽和服务器资源。

长轮询

长轮询是对上边短轮询的一种改良版本,在尽可能减少对服务器资源节约的同时,保障音讯的绝对实时性。长轮询在中间件中利用的很宽泛,比方 Nacos 和 apollo 配置核心,音讯队列 kafka、RocketMQ 中都有用到长轮询。

Nacos 配置核心交互模型是 push 还是 pull?一文中我具体介绍过 Nacos 长轮询的实现原理,感兴趣的小伙伴能够瞅瞅。

这次我应用 apollo 配置核心实现长轮询的形式,利用了一个类 DeferredResult,它是在 servelet3.0 后通过 Spring 封装提供的一种异步申请机制,直意就是提早后果。

DeferredResult 能够容许容器线程疾速开释占用的资源,不阻塞申请线程,以此承受更多的申请晋升零碎的吞吐量,而后启动异步工作线程解决真正的业务逻辑,解决实现调用 DeferredResult.setResult(200)提交响应后果。

下边咱们用长轮询来实现音讯推送。

因为一个 ID 可能会被多个长轮询申请监听,所以我采纳了 guava 包提供的 Multimap 构造寄存长轮询,一个 key 能够对应多个 value。一旦监听到 key 发生变化,对应的所有长轮询都会响应。前端失去非申请超时的状态码,通晓数据变更,被动查问未读音讯数接口,更新页面数据。

@Controller
@RequestMapping("/polling")
public class PollingController {

    // 寄存监听某个 Id 的长轮询汇合
    // 线程同步构造
    public static Multimap<String, DeferredResult<String>> watchRequests = Multimaps.synchronizedMultimap(HashMultimap.create());

    /**
     * Java 架构学习指南
     * 设置监听
     */
    @GetMapping(path = "watch/{id}")
    @ResponseBody
    public DeferredResult<String> watch(@PathVariable String id) {
        // 提早对象设置超时工夫
        DeferredResult<String> deferredResult = new DeferredResult<>(TIME_OUT);
        // 异步申请实现时移除 key,避免内存溢出
        deferredResult.onCompletion(() -> {watchRequests.remove(id, deferredResult);
        });
        // 注册长轮询申请
        watchRequests.put(id, deferredResult);
        return deferredResult;
    }

    /**
     * Java 架构学习指南
     * 变更数据
     */
    @GetMapping(path = "publish/{id}")
    @ResponseBody
    public String publish(@PathVariable String id) {
        // 数据变更 取出监听 ID 的所有长轮询申请,并一一响应解决
        if (watchRequests.containsKey(id)) {Collection<DeferredResult<String>> deferredResults = watchRequests.get(id);
            for (DeferredResult<String> deferredResult : deferredResults) {deferredResult.setResult("我更新了" + new Date());
            }
        }
        return "success";
    }

当申请超过设置的超时工夫,会抛出 AsyncRequestTimeoutException 异样,这里间接用 @ControllerAdvice 全局捕捉对立返回即可,前端获取约定好的状态码后再次发动长轮询申请,如此往返调用。

@ControllerAdvice
public class AsyncRequestTimeoutHandler {@ResponseStatus(HttpStatus.NOT_MODIFIED)
    @ResponseBody
    @ExceptionHandler(AsyncRequestTimeoutException.class)
    public String asyncRequestTimeoutHandler(AsyncRequestTimeoutException e) {System.out.println("异步申请超时");
        return "304";
    }
}

咱们来测试一下,首先页面发动长轮询申请 /polling/watch/10086 监听音讯更变,申请被挂起,不变更数据直至超时,再次发动了长轮询申请;紧接着手动变更数据 /polling/publish/10086,长轮询失去响应,前端解决业务逻辑实现后再次发动申请,如此周而复始。

长轮询相比于短轮询在性能上晋升了很多,但仍然会产生较多的申请,这是它的一点不完满的中央。

iframe 流

iframe 流就是在页面中插入一个暗藏的 <iframe> 标签,通过在 src 中申请音讯数量 API 接口,由此在服务端和客户端之间创立一条长连贯,服务端继续向 iframe 传输数据。

传输的数据通常是 HTML、或是内嵌的 javascript 脚本,来达到实时更新页面的成果。

这种形式实现简略,前端只有一个 <iframe> 标签搞定了

<iframe src="/iframe/message" style="display:none"></iframe>

服务端间接组装 html、js 脚本数据向 response 写入就行了

@Controller
@RequestMapping("/iframe")
public class IframeController {@GetMapping(path = "message")
    public void message(HttpServletResponse response) throws IOException, InterruptedException {while (true) {response.setHeader("Pragma", "no-cache");
            response.setDateHeader("Expires", 0);
            response.setHeader("Cache-Control", "no-cache,no-store");
            response.setStatus(HttpServletResponse.SC_OK);
            response.getWriter().print("<script type=\"text/javascript\">\n" +
                    "parent.document.getElementById('clock').innerHTML = \"" + count.get() + "\";"+"parent.document.getElementById('count').innerHTML = \""+ count.get() +"\";" +
                    "</script>");
        }
    }
}

但我集体不举荐,因为它在浏览器上会显示申请未加载完,图标会不停旋转,几乎是强迫症杀手。

SSE (我的形式)

很多人可能不晓得,服务端向客户端推送音讯,其实除了能够用 WebSocket 这种耳熟能详的机制外,还有一种服务器发送事件(Server-sent events),简称 SSE。

SSE 它是基于 HTTP 协定的,咱们晓得个别意义上的 HTTP 协定是无奈做到服务端被动向客户端推送音讯的,但 SSE 是个例外,它变换了一种思路。

SSE 在服务器和客户端之间关上一个单向通道,服务端响应的不再是一次性的数据包而是 text/event-stream 类型的数据流信息,在有数据变更时从服务器流式传输到客户端。

整体的实现思路有点相似于在线视频播放,视频流会连续不断地推送到浏览器,你也能够了解成,客户端在实现一次用时很长(网络不畅)的下载。

SSE 与 WebSocket 作用类似,都能够建设服务端与浏览器之间的通信,实现服务端向客户端推送音讯,但还是有些许不同:

  • SSE 是基于 HTTP 协定的,它们不须要非凡的协定或服务器实现即可工作;WebSocket 需独自服务器来解决协定。
  • SSE 单向通信,只能由服务端向客户端单向通信;webSocket 全双工通信,即通信的单方能够同时发送和承受信息。
  • SSE 实现简略开发成本低,无需引入其余组件;WebSocket 传输数据需做二次解析,开发门槛高一些。
  • SSE 默认反对断线重连;WebSocket 则须要本人实现。
  • SSE 只能传送文本音讯,二进制数据须要通过编码后传送;WebSocket 默认反对传送二进制数据。

SSE 与 WebSocket 该如何抉择?

技术并没有好坏之分,只有哪个更适合

SSE 如同始终不被大家所熟知,一部分起因是呈现了 WebSockets,这个提供了更丰盛的协定来执行双向、全双工通信。对于游戏、即时通信以及须要双向近乎实时更新的场景,领有双向通道更具吸引力。

然而,在某些状况下,不须要从客户端发送数据。而你只须要一些服务器操作的更新。比方:站内信、未读音讯数、状态更新、股票行情、监控数量等场景,SEE 不论是从实现的难易和老本上都更加有劣势。此外,SSE 具备 WebSockets 在设计上不足的多种性能,例如:主动从新连贯、事件 ID 和发送任意事件的能力。

前端只需进行一次 HTTP 申请,带上惟一 ID,关上事件流,监听服务端推送的事件就能够了

<script>
    let source = null;
    let userId = 7777
    if (window.EventSource) {
        // 建设连贯
        source = new EventSource('http://localhost:7777/sse/sub/'+userId);
        setMessageInnerHTML("连贯用户 =" + userId);
        /**
         * 连贯一旦建设,就会触发 open 事件
         * 另一种写法:source.onopen = function (event) {}
         */
        source.addEventListener('open', function (e) {setMessageInnerHTML("建设连贯。。。");
        }, false);
        /**
         * 客户端收到服务器发来的数据
         * 另一种写法:source.onmessage = function (event) {}
         */
        source.addEventListener('message', function (e) {setMessageInnerHTML(e.data);
        });
    } else {setMessageInnerHTML("你的浏览器不反对 SSE");
    }
</script>

服务端的实现更简略,创立一个 SseEmitter 对象放入 sseEmitterMap 进行治理

private static Map<String, SseEmitter> sseEmitterMap = new ConcurrentHashMap<>();

/**
 * 创立连贯
 *
 * @date: 2022/7/12 14:51
 * @auther: Java 架构学习指南
 */
public static SseEmitter connect(String userId) {
    try {
        // 设置超时工夫,0 示意不过期。默认 30 秒
        SseEmitter sseEmitter = new SseEmitter(0L);
        // 注册回调
        sseEmitter.onCompletion(completionCallBack(userId));
        sseEmitter.onError(errorCallBack(userId));
        sseEmitter.onTimeout(timeoutCallBack(userId));
        sseEmitterMap.put(userId, sseEmitter);
        count.getAndIncrement();
        return sseEmitter;
    } catch (Exception e) {log.info("创立新的 sse 连贯异样,以后用户:{}", userId);
    }
    return null;
}

/**
 * 给指定用户发送音讯
 *
 * @date: 2022/7/12 14:51
 * @auther: Java 架构学习指南
 */
public static void sendMessage(String userId, String message) {if (sseEmitterMap.containsKey(userId)) {
        try {sseEmitterMap.get(userId).send(message);
        } catch (IOException e) {log.error("用户 [{}] 推送异样:{}", userId, e.getMessage());
            removeUser(userId);
        }
    }
}

咱们模仿服务端推送音讯,看下客户端收到了音讯,和咱们预期的成果统一。

留神: SSE 不反对 IE 浏览器,对其余支流浏览器兼容性做的还不错。

MQTT

什么是 MQTT 协定?

MQTT 全称(Message Queue Telemetry Transport):一种基于公布 / 订阅(publish/subscribe)模式的轻量级通信协定,通过订阅相应的主题来获取音讯,是物联网(Internet of Thing)中的一个规范传输协定。

该协定将音讯的发布者(publisher)与订阅者(subscriber)进行拆散,因而能够在不牢靠的网络环境中,为近程连贯的设施提供牢靠的音讯服务,应用形式与传统的 MQ 有点相似。

TCP 协定位于传输层,MQTT 协定位于应用层,MQTT 协定构建于 TCP/IP 协定上,也就是说只有反对 TCP/IP 协定栈的中央,都能够应用 MQTT 协定。

为什么要用 MQTT 协定?

MQTT 协定为什么在物联网(IOT)中如此受偏爱?而不是其它协定,比方咱们更为相熟的 HTTP 协定呢?

  • 首先 HTTP 协定它是一种同步协定,客户端申请后须要期待服务器的响应。而在物联网(IOT)环境中,设施会很受制于环境的影响,比方带宽低、网络提早高、网络通信不稳固等,显然异步音讯协定更为适宜 IOT 应用程序。
  • HTTP 是单向的,如果要获取音讯客户端必须发动连贯,而在物联网(IOT)应用程序中,设施或传感器往往都是客户端,这意味着它们无奈被动地接管来自网络的命令。
  • 通常须要将一条命令或者音讯,发送到网络上的所有设施上。HTTP 要实现这样的性能岂但很艰难,而且老本极高。

具体的 MQTT 协定介绍和实际,这里我就不再赘述了,大家能够参考我之前的两篇文章,里边写的也都很具体了。

MQTT 协定的介绍

我也没想到 springboot + rabbitmq 做智能家居,会这么简略

MQTT 实现音讯推送

未读音讯(小红点),前端 与 RabbitMQ 实时音讯推送实际,贼简略~

Websocket

websocket 应该是大家都比拟相熟的一种实现音讯推送的形式,上边咱们在讲 SSE 的时候也和 websocket 进行过比拟。

WebSocket 是一种在 TCP 连贯上进行全双工通信的协定,建设客户端和服务器之间的通信渠道。浏览器和服务器仅需一次握手,两者之间就间接能够创立持久性的连贯,并进行双向数据传输。

图片源于网络

springboot 整合 websocket,先引入 websocket 相干的工具包,和 SSE 相比额定的开发成本。

<!-- 引入 websocket -->
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-websocket</artifactId>
</dependency>

服务端应用 @ServerEndpoint 注解标注以后类为一个 websocket 服务器,客户端能够通过 ws://localhost:7777/webSocket/10086 来连贯到 WebSocket 服务器端。

@Component
@Slf4j
@ServerEndpoint("/websocket/{userId}")
public class WebSocketServer {
    // 与某个客户端的连贯会话,须要通过它来给客户端发送数据
    private Session session;
    private static final CopyOnWriteArraySet<WebSocketServer> webSockets = new CopyOnWriteArraySet<>();
    // 用来存在线连接数
    private static final Map<String, Session> sessionPool = new HashMap<String, Session>();
    /**
     * Java 架构学习指南
     * 链接胜利调用的办法
     */
    @OnOpen
    public void onOpen(Session session, @PathParam(value = "userId") String userId) {
        try {
            this.session = session;
            webSockets.add(this);
            sessionPool.put(userId, session);
            log.info("websocket 音讯: 有新的连贯,总数为:" + webSockets.size());
        } catch (Exception e) {}}
    /**
     * Java 架构学习指南
     * 收到客户端音讯后调用的办法
     */
    @OnMessage
    public void onMessage(String message) {log.info("websocket 音讯: 收到客户端音讯:" + message);
    }
    /**
     * Java 架构学习指南
     * 此为单点音讯
     */
    public void sendOneMessage(String userId, String message) {Session session = sessionPool.get(userId);
        if (session != null && session.isOpen()) {
            try {log.info("websocket 消: 单点音讯:" + message);
                session.getAsyncRemote().sendText(message);
            } catch (Exception e) {e.printStackTrace();
            }
        }
    }
}

前端初始化关上 WebSocket 连贯,并监听连贯状态,接管服务端数据或向服务端发送数据。

<script>
    var ws = new WebSocket('ws://localhost:7777/webSocket/10086');
    // 获取连贯状态
    console.log('ws 连贯状态:' + ws.readyState);
    // 监听是否连贯胜利
    ws.onopen = function () {console.log('ws 连贯状态:' + ws.readyState);
        // 连贯胜利则发送一个数据
        ws.send('test1');
    }
    // 接听服务器发回的信息并解决展现
    ws.onmessage = function (data) {console.log('接管到来自服务器的音讯:');
        console.log(data);
        // 实现通信后敞开 WebSocket 连贯
        ws.close();}
    // 监听连贯敞开事件
    ws.onclose = function () {
        // 监听整个过程中 websocket 的状态
        console.log('ws 连贯状态:' + ws.readyState);
    }
    // 监听并解决 error 事件
    ws.onerror = function (error) {console.log(error);
    }
    function sendMessage() {var content = $("#message").val();
        $.ajax({
            url: '/socket/publish?userId=10086&message=' + content,
            type: 'GET',
            data: {"id": "7777", "content": content},
            success: function (data) {console.log(data)
            }
        })
    }
</script>

页面初始化建设 websocket 连贯,之后就能够进行双向通信了,成果还不错

自定义推送

上边咱们给我出了 6 种计划的原理和代码实现,但在理论业务开发过程中,不能自觉的间接拿过去用,还是要联合本身零碎业务的特点和理论场景来抉择适合的计划。

推送最间接的形式就是应用第三推送平台,毕竟 钱能解决的需要都不是问题,无需简单的开发运维,间接能够应用,省时、省力、省心,像 goEasy、极光推送都是很不错的三方服务商。

个别大型公司都有自研的音讯推送平台,像咱们本次实现的 web 站内信只是平台上的一个触点而已,短信、邮件、微信公众号、小程序但凡能够触达到用户的渠道都能够接入进来。

音讯推送零碎外部是相当简单的,诸如音讯内容的保护审核、圈定推送人群、触达过滤拦挡(推送的规定频次、时段、数量、黑白名单、关键词等等)、推送失败弥补十分多的模块,技术上波及到大数据量、高并发的场景也很多。所以咱们明天的实现形式在这个宏大的零碎背后只是小打小闹。

正文完
 0