• 如果您觉得本站非常有看点,那么赶紧使用Ctrl+D 收藏吧

Mqtt学习笔记及在项目中的实际运用

互联网 diligentman 2周前 (01-10) 9次浏览

前言

最近工作中有用到MQTT 协议,在此做一个研究学习总结和采坑指南。如果你在工作中也有用到,欢迎交流。文中如有不足之处,欢迎指正。

1. 什么是MQTT

MQTT(Message Queuing Telemetry Transport,消息队列遥测传输协议),是一种基于发布/订阅(publish/subscribe)模式的轻量级协议,该协议构建于TCP/IP协议之上,MQTT最大优点在于,可以以极少的代码和有限的带宽,为连接远程设备提供实时可靠的消息服务。作为一种低开销、低带宽占用的即时通讯协议,使其在物联网、小型设备、移动应用等方面有较广泛的应用。

MQTT是一个基于客户端-服务器的消息发布/订阅传输协议。MQTT协议是轻量、简单、开放和易于实现的,这些特点使它适用范围非常广泛。在很多情况下,包括受限的环境中,如:机器与机器(M2M)通信和物联网(IoT)。其在,通过卫星链路通信传感器、偶尔拨号的医疗设备、智能家居、及一些小型化设备中已广泛使用。 

小结:MQTT 已经成为物联网系统事实上的网络协议标准。如果你想从事物联网开发,就一定要掌握 MQTT。

2. 感受MQTT的使用

安装 MQTT,可以直接找到 hbmqtt (python语言)这样的项目拿来用。它的背后有 Eclipse 基金会的支持。

类似的 MQTT Broker 软件,你还可以选择基于 C 语言的Mosquitto,基于 Erlang 语言的VerneMQ等。

至于 MQTT 的客户端(Client)实现,也有成熟的 Python、C、Java 和 JavaScript 等各种编程语言的开源实现,供你参考、使用,比如Eclipse Paho 项目。

而且,还有很多商业公司在持续运营功能更丰富、支持更完备的商业版 Broker 实现,比如提供高并发能力的集群特性、方便拓展的插件机制等。这些会大大提高我们技术开发者的工作效率。比如中国一个团队开发、维护的 EMQ X,它已经完整地支持 MQTT5.0 协议。

测试工具推荐:MQTT X 可以在线测试或下载本地客户端进行mqtt连接测试和事件的主题订阅、消息发送等。

有助于定位问题,强烈推荐。

另外,生态完善还有一个好处,那就是作为开发者,当你遇到难题时,可以很方便地找到很多相关的资料;就算资料解决不了问题,你还可以去社区中提问,寻求高手的帮助。这在实际工作中非常有用。顺便提一下,除了老牌的 Stack Overflow,你还可以关注一下 GitHub 的 Issues 模块,因为在那里可以找到很多专家。

小结:做为Android开发者,我已经找出了众多开源项目的官方开源地址,如想快速体验,请移步:

Android Service

在采坑中发现,有些问题是存在的,比如Andorid Q之后的前台服务等问题,有些fork分支解决了部分问题,如果你在项目中也遇到了相似问题,先看看issus中的解决方案,甚至可以直接使用fork分支上的开源项目。

小结:mqttt 使用上手是非常快的,测试和工具使用可以很快感觉mqtt的流程,体验后可以根据项目的技术指标在研究下第三方如阿里云mqtt自己搭建服务器时性能指标。然后再根据业务需求,选择第三方平台和自己搭建服务器。

3. MQTT的生态相对完善

当然,阿里云、华为云、腾讯云和微软 Azure 这些大厂,之所以不约而同地选择 MQTT 协议作为物联网设备的“第一语言”,不仅是因为 MQTT 的生态完善,MQTT 协议本身的优秀设计也是重要的因素。

它在设计上的优点体现在哪呢?我想主要有五个方面:

  1. 契合物联网大部分应用场景的发布 – 订阅模式。
  2. 能够满足物联网中资源受限设备需要的轻量级特性。
  3. 时刻关注物联网设备低功耗需求的优化设计。
  4. 针对物联网中多变的网络环境提供的多种服务质量等级。
  5. 支持在物联网应用中越来越被重视的数据安全。

3.1 发布 – 订阅模式

mqtt采用了发布 – 订阅模式,MQTT 协议具有很多优点,比如能让一个传感器数据触发一系列动作;网络不稳定造成的临时离线不会影响工作;方便根据需求动态调整系统规模等。这使得它能满足绝大部分物联网场景的需求。

3.2 轻量级协议:减少传输数据量

MQTT 是一个轻量级的网络协议,这一点也是它在物联网系统中流行的重要原因。毕竟物联网中大量的都是计算资源有限、网络带宽低的设备。

这种“轻量级”体现在两个方面。一方面,MQTT 消息采用二进制的编码格式,而不是 HTTP 协议那样的文本的表述方式。

这有什么好处呢?那就是可以充分利用字节位,协议头可以很紧凑,从而尽量减少需要通过网络传输的数据量。

比如,我们分析 HTTP 的一个请求抓包,它的消息内容是下面这样的(注意:空格和回车、换行符都是消息的组成部分):

GET /account HTTP/1.1    <--注释:HTTP请求行
Host: time.geekbang.com  <--注释:以下为HTTP请求头部
Upgrade-Insecure-Requests: 1
User-Agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10.15; rv:81.0) Gecko/20100101 Firefox/81.0
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8
Accept-Encoding: gzip, deflate, sdch
Accept-Language: zh-CN,zh;q=0.8,en;q=0.6
                         <--注释:这个空行是必须的,即使下面的请求体是空的

在 HTTP 协议传输的这段文本中,每个字符都要占用 1 个字节。而如果使用 MQTT 协议,一个字节就可以表示很多内容。下面的图片展示了 MQTT 的固定头的格式,这个固定头只有 2 个字节:Mqtt学习笔记及在项目中的实际运用

你可以看到,第一个字节分成了高 4 位(4~7)和低 4 位(0~3);低 4 位是数据包标识位,其中的每一比特位又可以表示不同的含义;高 4 位是不同数据包类型的标识位。

第二个字节表示数据包头部和消息体的字节共个数,其中最高位表示有没有第三字节存在,来和第二个字节一起表示字节共个数。

如果有第三个字节,那它的最高位表示是否有第四个字节,来和第二个字节、第三个字节一起表示字节总个数。依此类推,还可能有第四个字节、第五个字节,不过这个表示可变头部和消息体的字节个数的部分,最多也只能到第五个字节,所以可以表示的最大数据包长度有 256MB。

比如,一个请求建立连接的 CONNECT 类型数据包,头部需要 14 个字节;发布消息的 PUBLISH 类型数据包头部只有 2~4 个字节。

轻量级的另一方面,体现在消息的具体交互流程设计非常简单,所以 MQTT 的交互消息类型也非常少。为了方便后面的讲解,我在这里整理了一个表格,总结了 MQTT 不同的数据包类型的功能和发消息的流向。

从表格可以看出,MQTT 3.1.1 版本一共定义了 14 种数据包的类型,在第一个字节的高 4 位中分别对应从 1 到 14 的数值。

Mqtt学习笔记及在项目中的实际运用

3.3 低功耗优化:节约电量和网络资源

除了让协议足够轻量,MQTT 协议还很注重低功耗的优化设计,这主要体现在对能耗和通信次数的优化。

比如,MQTT 协议有一个 Keepalive 机制。它的作用是,在 Client 和 Broker 的连接中断时,让双方能及时发现,并重新建立 MQTT 连接,保证主题消息的可靠传输。

这个机制工作的原理是:Client 和 Broker 都基于 Keepalive 确定的时间长度,来判断一段时间内是否有消息在双方之间传输。这个 Keepalive 时间长度是在 Client 建立连接时设置的,如果超出这个时间长度,双方没有收到新的数据包,那么就判定连接断开。

虽然 Keepalive 要求一段时间内必须有数据包传输,但实际情况是,Client 和 Broker 不可能时时刻刻都在传输主题消息,这要怎么办呢?

MQTT 协议的解决方案是,定义了 PINGREQ 和 PINGRESP 这两种消息类型。它们都没有可变头部和消息体,也就是说都只有 2 个字节大小。Client 和 Broker 通过分别发送 PINGREQ 和 PINGRESP 消息,就能够满足 Keepalive 机制的要求。

嵌入式设备的运算能力和带宽都相对薄弱,使用这种协议来传递消息再适合不过了。

我猜你也想到了,如果要一直这样“傻傻地”定期发送消息,那也太浪费电量和网络资源了。所以,如果在 Keepalive 时间长度内,Client 和 Broker 之间有数据传输,那么 Keepalive 机制也会将其计算在内,这样就不需要再通过发送 PINGREQ 和 PINGRESP 消息来判断了。

除了 Keepalive 机制,MQTT 5.0 中的重复主题特性也能帮助我们节省网络资源

Client 在重复发送一个主题的消息时,可以从第二次开始,将主题名长度设置为 0,这样 Broker 会自动按照上次的主题来处理消息。这种情况对传感器设备来说十分常见,所以这个特性在工作中很有实际意义。

举例说明:比如发生是主题是“/xxx/iot”,第一次需要在信息体中包含这个主题的字符,第二次就可以省掉这个主题名字了。

3.4 三 种 QoS 级别:可靠通信

除了计算资源有限、网络带宽低,物联网设备还经常遇到网络环境不稳定的问题,尤其是在移动通信、卫星通信这样的场景下。比如共享单车,如果用户已经锁车的这个消息,不能可靠地上传到服务器,那么计费就会出现错误,结果引起用户的抱怨。这样怎么应对呢?

这个问题产生的背景就是不稳定的通信条件,所以 MQTT 协议设计了 3 种不同的 QoS (Quality of Service,服务质量)级别。你可以根据场景灵活选择,在不同环境下保证通信是可靠的。

这 3 种级别分别是:

  • QoS 0,表示消息最多收到一次,即消息可能丢失,但是不会重复。

    (注意:网络有很多博客说可能会重复,这里可以抓包确认,有疑问的请务必去测试验证。这里我理解不只管发,不管收,所以会丢失,但是不会重复)

  • QoS 1,表示消息至少收到一次,即消息保证送达,但是可能重复。
  • QoS 2,表示消息只会收到一次,即消息有且只有一次。

Mqtt学习笔记及在项目中的实际运用

图片中展示了qos各自的特点。可以看到,QoS 0 和 QoS 1 的流程相对比较简单;而 QoS 2 为了保证有且只有一次的可靠传输,流程相对复杂些。

正常情况下,QoS 2 有 PUBLISH、PUBREC、PUBREL 和 PUBCOMP 4 次交互。

至于“不正常的情况”,发送方就需要重复发送消息。比如一段时间内没有收到 PUBREC 消息,就需要再次发送 PUBLISH 消息。不过要注意,这时要把消息中的 “重复”标识设置为 1,以便接收方能正确处理。同样地,如果没有收到 PUBCOMP 消息,发送方就需要再次发送 PUBREL 消息。

剖析到这里,MQTT 协议本身的主要特性我就介绍完了,我们已经为在实战篇编写 MQTT 的相关通信代码做好了准备。但是,我还想跟你补充一个跟生产环境有关的知识点,那就是数据安全传输。

3.5 安全传输

说到安全传输,首先我们需要验证 Client 是否有权限接入 MQTT Broker。为了控制 Client 的接入,MQTT 提供了用户名 / 密码的机制。在建立连接过程中,它可以通过判断用户名和密码的正确性,来筛选有效连接请求。

但是光靠这个机制,还不能保证网络通信过程中的数据安全。因为在明文传输的方式下,不止设备数据,甚至用户名和密码都可能被其他人从网络上截获而导致泄漏,于是其他人就可以伪装成合法的设备发送数据。所以,我们还需要通信加密技术的支持。

MQTT 协议支持 SSL/TLS 加密通信方式。采用 SSL/TLS 加密之后,MQTT 将转换为 MQTTS。这有点类似于 HTTP 和 HTTPS 的关系。

小结:

总结一下,在这一讲中,我带你体验了使用 MQTT 协议的通信过程,同时也为你介绍了 MQTT 协议的几个特点。

  1. MQTT 协议的生态很好。比如,MQTT 协议的代码实现非常丰富,C 语言的有 Mosquitto,Python 语言有 Eclipse hbmqtt,而且有商业公司在运营相关软件解决方案。这表明 MQTT 协议很成熟。
  2. MQTT 协议采用了适合物联网应用场景的发布 – 订阅模式。当然,我也提到了 MQTT 5.0 中同样增加了请求 – 响应模式,便于部分场景中的开发使用。
  3. MQTT 协议采用二进制的消息内容编码格式,协议很精简,协议交互也简单,这些特点保证了网络传输流量很小。所以客户端(包括发布者和订阅者角色)的代码实现可以短小精悍,比如 C 语言的实现大概只占 30KB 的存储空间,Java 语言也只需要 100KB 左右大小的代码体积。
  4. MQTT 协议在设计上考虑了很多物联网设备的低功耗需求,比如 Keepalive 机制中精简的 PINGREQ 和 PINGRESP 这两种消息类型,还有 MQTT 5.0 中新增加的重复主题特性。这也再次印证了 MQTT 的定位非常明确,那就是专注于物联网场景。
  5. MQTT 在消息的可靠传输和安全性上,也有完整的支持,可以说“简约而不简单”。

4. 实现方式  

  MQTT协议中,需要两个端,分别是服务端和客户端;有三个身份,分别是发布者(Publish),代理(Broker)、订阅者(Subscribe)。

  在MQTT协议中,客户端不能直接对客户端实行端到端的收发消息,必须经过服务端管理分配,所以服务端要运行一个代理服务,也就是三个身份之一的代理身份。消息的发送方称为发布者,该消息的需要接收者称之为订阅者。发布者把消息发送给代理,代理负责检查都谁需要接收这个消息(这个就是订阅),需要的就转发给它。因为要识别不同的消息,所以MQTT协议制定了主题标准,也就是给消息加上了标签。发布者发送的消息总是要带上标签的,代理根据谁订阅了这个标签来决定转发给谁,这个标签就称之为主题(Topic),标签携带我们需要传输的信息内容称之为负载(Payload)。

  为了实现异常中断通知机制,所以在客户端与服务端首次连接的时候,就要携带一条相对特殊的主题,主题内容是如果自己掉线了,希望告知需要知道自己掉线一方一些信息,这就是遗嘱消息(Will Message)。这个主题自己在线时,代理不会做任何转发,当自己掉线达到一定时间(即心跳间隔Keep Alive timer),代理会检查谁订阅了这个主题,就转发给谁(当然可以多人订阅),这就实现了异常中断(掉线)通知。

  下面继续深入理解一下MQTT协议的工作过程。

发布者、订阅者、代理与主题发布与订阅间的关系:

Mqtt学习笔记及在项目中的实际运用

5. 实现Demo

Talk is cheap,show me code.

根据调研的情况,实现了阿里云mqtt和能用的mqttDemo. 解决了参考其他demo会出现这样或那样的问题, 同时实现了mqtt性能的收发数据时间测试功能,最近会一直维护,欢迎star。

github开源地址: https://github.com/june5753/m&#8230;

6. FAQ

  1. 连接失败问题

    请检查ClientID中是否是唯一的,一般以时间戳或uuid做为连接的clientID

  2. 消息重复或丢失

    • 请检查qos的设置值。默认值为0,根据业务请检查。
    • 连接参数的属性设置,比如
  3. 连接成功,订阅时失败

    请检查connect连接的接口是否选择正确,开发中遇到,Android connect中的接口有好几个,注意不要选择错了。

  4. 其他问题,待完善~

最后,如果你也在使用Mqtt,遇到了什么问题,欢迎留言交流,我看到了一定及时回复。

参考:

MQTT介绍与使用

物联网相关开源项目整理

极客时间 MQTT:在实践中掌握一个通信协议

转战物联网·基础篇05-通俗理解MQTT协议的实现原理和异步方式

扩展阅读:

可以了解一下sdk的调用及完善,同时在接入mqtt时,可以考虑一下如何封住成sdk,方便复用。

Android Mqtt 消息推送使用

阿里云消息队列MQTT踩坑之路(阿里云MQTT Android客户端)

Android使用Mqtt协议链接ActiveMQ服务器实现推送


喜欢 (0)