网络流媒体协议的联系与区别(RTP RTCP RTSP RTMP HLS)

￡神魔★判官ぃ 2023-07-12 08:58 29阅读 0赞

# 网络流媒体协议的联系与区别(RTP RTCP RTSP RTMP HLS) #

### 文章目录 ###

*  网络流媒体协议的联系与区别(RTP RTCP RTSP RTMP HLS)
 *  三句话简结
 *   *  RTP RTCP RTSP RTMP HLS区别与联系
 *  流媒体各协议层次图
 *  基于RTP的流式媒体
 *   *  RTP
     *  RTCP
     *  RTSP
     *   *  RTSP请求例
 *  RTMP
 *   *  RTMP扩展
 *  HLS
 *  总结
 *   *  RTP RTCP RTSP 区别与联系
     *  RTSP、RTMP、HLS 区别与联系
     *  关于直播

--------------------

# 三句话简结 #

## RTP RTCP RTSP RTMP HLS区别与联系 ##

**`RTP传输流媒体数据、RTCP对RTP进行控制，同步、RTSP发起/终止流媒体`**  
**`RTP和RTCP互为姐妹关系，RTSP可以使用RTP来传输数据，但并没有绑定关系也可以使用TCP/UDP`**  
**`RTSP、RTMP、HLS都可以做直播和点播，它们是三种不同的应用层协议`**

# 流媒体各协议层次图 #

![format_png][]

**`关于RTP(RTCP)协议位置的理解：`**  
RTP实际上介于应用层和传输层之间。同时具有应用层和传输层的各种特点。这个特点需要仔细甄别。

从应用开发者的角度看，RTP应该是应用层的一个部分。在应用程序的发送端，开发者必须编写用RTP封装分组（数据包）的程序代码，然后把该RTP分组交给UDP套接字接口。在接收端设备，RTP分组通过UDP套接字接口进入应用层程序后，会利用开发者编写的程序代码把RTP分组从应用数据块提取出来。RTP实际上为视频程序的开发者提供了一个开发平台。

RTP也可以理解为运输层协议，实际上RTP协议偏重于传输层，是UDP协议（用户数据报）上边的一层协议。因为RTP封装了多媒体应用（包括视频流、音频流）的数据块，关键是提供运输层的服务（时间戳，序号、同步源标识符等），因此可以把RTP看成一层UDP上的运输层子层协议，特别要注意是子层协议。

综合来看，RTP协议实际上是一个介于传输层和应用层之间的协议，作用是在UDP协议之上完成一次对媒体流的封装。

# 基于RTP的流式媒体 #

流式传输是实现流媒体的关键技术。使用流式传输可以边下载边观看流媒体节目。由于Internet是基于分组传输的，所以接收端收到的数据包往往有延迟和乱序(流式传输构建在UDP上)

要实现流式传输，就要从降低延迟和恢复数据包时序入手。

**`「在发送端，为降低延迟，往往对传输数据进行预处理(降低质量和高效压缩(常见压缩格式如aac/h264...))」`**

**`「在接收端为了恢复时序，常采用接收缓冲，而为了实现媒体的流畅播放，一般会使用播放缓冲」`**

## RTP ##

RTP(Real-time Transport Protocol)协议创建在UDP协议上常配合RTSP和RTCP一起使用。用于实时传输网络中的多媒体数据，提供端到端的实时传输服务，但并不保证服务质量，服务质量由RTCP来提供。

RTP是流媒体协议族中最基础的一个协议了，它是IETF提出的一个标准，对应RFC文档RFC3550，RFC3550不仅定义了RTP还定义了配套相关协议RTCP。

**`RTP协议主要职责就是负责流媒体数据包和媒体流的实时传输，每个RTP数据报文由头(header)和装载(Payload)两部分组成，其中头的前12个字节的含义是固定的，装载的数据可以是音频或视频数据。RTP数据报的报头格式如下所示:`**  
![format_png 1][]

**`「可以将RTP比作一辆货车，货车里面可以随意装东西，但是容积有限制，如果太大你就需要分包，一辆一辆装车发送过，另外可能也不一定按序到达对端，甚至可能失踪」`**

**`RTP载荷类型`**  
因为有些类型由于诞生的较晚，没有具体的PT值，只能使用动态（dynamic）PT值，即96-127，这就是为什么大家普遍指定H264的PT值为96。

rtp_payload_types[] = {
        
      {
        0, "PCMU",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_PCM_MULAW, 8000, 1},
      {
        3, "GSM",         AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 8000, 1},
      {
        4, "G723",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_G723_1, 8000, 1},
      {
        5, "DVI4",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 8000, 1},
      {
        6, "DVI4",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 16000, 1},
      {
        7, "LPC",         AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 8000, 1},
      {
        8, "PCMA",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_PCM_ALAW, 8000, 1},
      {
        9, "G722",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_ADPCM_G722, 8000, 1},
      {
        10, "L16",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_PCM_S16BE, 44100, 2},
      {
        11, "L16",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_PCM_S16BE, 44100, 1},
      {
        12, "QCELP",      AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_QCELP, 8000, 1},
      {
        13, "CN",         AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 8000, 1},
      {
        14, "MPA",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_MP2, -1, -1},
      {
        14, "MPA",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_MP3, -1, -1},
      {
        15, "G728",       AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 8000, 1},
      {
        16, "DVI4",       AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 11025, 1},
      {
        17, "DVI4",       AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 22050, 1},
      {
        18, "G729",       AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 8000, 1},
      {
        25, "CelB",       AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_NONE, 90000, -1},
      {
        26, "JPEG",       AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_MJPEG, 90000, -1},
      {
        28, "nv",         AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_NONE, 90000, -1},
      {
        31, "H261",       AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_H261, 90000, -1},
      {
        32, "MPV",        AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_MPEG1VIDEO, 90000, -1},
      {
        32, "MPV",        AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_MPEG2VIDEO, 90000, -1},
      {
        33, "MP2T",       AVMEDIA_TYPE_DATA,    AV_CODEC_ID_MPEG2TS, 90000, -1},
      {
        34, "H263",       AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_H263, 90000, -1},
      {
        -1, "",           AVMEDIA_TYPE_UNKNOWN, AV_CODEC_ID_NONE, -1, -1}
    };

## RTCP ##

RTCP(Real-time Transport Control Protocol或RTP Control Protocol）是实时传输协议（RTP）的一个姐妹协议。

RTCP常与RTP联合工作，RTP实施实际数据的传输，RTCP则负责将控制包送至电话中的每个人。**`其主要功能就是为RTP提供的服务质量做出反馈,同时同步音视频数据，它本身没不传递任何数据`**。它们能以有效的反馈和最小的开销使传输效率最佳化，因而特别适合传送网上的实时数据。

在RTP会话期间，各参与者周期性地传送RTCP包。RTCP包中含有已发送的数据包的数量、丢失的数据包的数量等统计资料，因此，服务器可以利用这些信息动态地改变传输速率，甚至改变有效载荷类型。

RTCP根据所携带的控制信息不同RTCP信息包可分为\*\*`RR`\*\* (接收者报告包)、**`SR`** (源报告包)、**`SE`**  
**`DS`** (源描述包)、**`BYE`** (离开申明)和\*\*`APP`\*\* (特殊应包)5类

## RTSP ##

实时流协议（RTSP，Real-time Streaming Protocol）是一种用于控制声音或图像的流媒体议，并且允许控制多条流，但RTSP连接并没有被绑定传输层的连接（如RTP），服务器甚至可以选择`TCP`或者`UDP`来传输流内容。

它的语法类似于HTTP 1.1，但不强调时间的同步，因此比较可以容忍网络延迟，是一种基于文本的多媒体播放控制协议。RTSP定义流格式，流数据可经由RTP传输；所以RTSP的实时效果非常好，适合视频聊天，视频监控等方向。

RTSP的请求主要包括，如`「描述(describe),设置(setup),播放(play),暂停(pause),回放(teardown),选项(options)」`等，在RTSP对话期间，`Setup`可以指定RTP/RTCP使用的端口，「`play`，`pause`，`teardown`」可以开始和暂停RTP的发送。

### RTSP请求例 ###

`SETUP 请求`  
SETUP请求指定如何传输单个媒体流。这必须在发送PLAY请求之前完成。请求包含媒体流URL和传输说明符。该说明符通常包括用于接收RTP数据（音频或视频）的本地端口，另一个用于RTCP数据（元信息））。服务器回复通常会确认所选参数，并填写缺少的部分，例如服务器选择的端口。必须在发送聚合播放请求之前，使用SETUP配置每个媒体流。

> C->S: SETUP rtsp://example.com/media.mp4/streamid=0 RTSP/1.0  
> CSeq: 3  
> Transport: RTP/AVP;unicast;client\_port=8000-8001

> S->C: RTSP/1.0 200 OK  
> CSeq: 3  
> Transport: RTP/AVP;unicast;client\_port=8000-8001;server\_port=9000-9001;ssrc=1234ABCD  
> Session: 12345678

`Play 播放请求`  
Play 播放请求 将导致播放一个或所有媒体流。可以通过发送多个播放请求来堆叠播放请求。URL可以是聚合URL（播放所有媒体流）或单个媒体流URL（仅播放该流）。可以指定范围。如果没有指定范围，流将从头开始播放，并播放到最后，或者如果流暂停，则在暂停点恢复播放。

> C->S: PLAY rtsp://example.com/media.mp4 RTSP/1.0  
> CSeq: 4  
> Range: npt=5-20  
> Session: 12345678

> S->C: RTSP/1.0 200 OK  
> CSeq: 4  
> Session: 12345678  
> RTP-Info: url=rtsp://example.com/media.mp4/streamid=0;seq=9810092;rtptime=3450012

`PAUSE 暂停请求`  
PAUSE 暂停请求 暂时停止一个或所有媒体流，因此稍后可以通过播放请求恢复。请求包含聚合或媒体流URL。PAUSE请求中的范围参数指定何时暂停。当省略范围参数时，暂停会立即无限期地发生。

> C->S: PAUSE rtsp://example.com/media.mp4 RTSP/1.0  
> CSeq: 5  
> Session: 12345678

> S->C: RTSP/1.0 200 OK  
> CSeq: 5  
> Session: 12345678

# RTMP #

RTMP(Real Time Messaging Protocol)实时消息传送协议是Adobe Systems公司为Flash播放器和服务器之间音频、视频和数据传输开发的开放应用层协议.

RTMP传输层是TCP协议，不过这种可靠的保障也会造成一些问题，也就是说前面的数据包没有交付到目的地，后面的数据也无法进行传输。幸运的是，目前的网络带宽基本上可以满足RTMP协议传输普通质量视频的要求，而且一般延迟在延迟在1-3秒内。

RTMP传输的数据的基本单元为Message，但是实际上传输的最小单元是Chunk（消息块），因为RTMP协议为了提升传输速度，在传输数据的时候，会把Message拆分开来，形成更小的块，这些块就是Chunk。

## RTMP扩展 ##

RTMP是一个协议族，包括RTMP基本协议及RTMPT/RTMPS/RTMPE等多种变种：

> ・工作在TCP之上的明文协议，使用端口1935；  
> ・RTMPE在RTMP的基础上增加了加密功能；  
> ・RTMPT封装在HTTP请求之中，可穿越防火墙；  
> ・RTMPS类似RTMPT，但使用的是HTTPS连接；

RTMP协议(Real Time Messaging Protocol)是被Flash用于对象,视频,音频的传输.这个协议建立在TCP协议或者轮询HTTP协议之上.

RTMP协议就像一个用来装数据包的容器,这些数据既可以是AMF格式的数据,也可以是FLV中的视/音频数据.一个单一的连接可以通过不同的通道传输多路网络流.这些通道中的包都是按照固定大小的包传输的.

# HLS #

HTTP Live Streaming（HLS）是苹果公司(Apple Inc.)实现的基于HTTP的流媒体传输协议，可实现流媒体的直播和点播，主要应用在iOS系统，为iOS设备（如iPhone、iPad）提供音视频直播和点播方案。HLS点播，基本上就是常见的分段HTTP点播，不同在于，它的分段非常小。

相对于常见的流媒体直播协议，例如RTMP协议、RTSP协议、MMS协议等，HLS直播最大的不同在于，**`「直播客户端获取到的，并不是一个完整的数据流。HLS协议在服务器端将直播数据流存储为连续的、很短时长的媒体文件（MPEG-TS格式），而客户端则不断的下载并播放这些小文件，因为服务器端总是会将最新的直播数据生成新的小文件，这样客户端只要不停的按顺序播放从服务器获取到的文件，就实现了直播。」`**  
由此可见，基本上可以认为，HLS是以点播的技术方式来实现直播。由于数据通过HTTP协议传输，所以完全不用考虑防火墙或者代理的问题，而且分段文件的时长很短，客户端可以很快的选择和切换码率，以适应不同带宽条件下的播放。不过HLS的这种技术特点，决定了它的延迟一般总是会高于普通的流媒体直播协议。

HLS提供一个m3u8地址，Apple的Safari浏览器直接就能打开m3u8地址，譬如  
[香港卫视:http://live.hkstv.hk.lxdns.com/live/hks/playlist.m3u8][http_live.hkstv.hk.lxdns.com_live_hks_playlist.m3u8]

# 总结 #

## RTP RTCP RTSP 区别与联系 ##

## RTSP、RTMP、HLS 区别与联系 ##

**`RTSP、RTMP、HLS都可以做直播和点播，它们是三种不同的应用层协议`**

> ・HLS 延迟大，适合视频点播  
> ・RTSP实时性最好，但是实现复杂，适合视频聊天和视频监控  
> ・RTMP强在浏览器支持好，加载flash插件后就能直接播放，非常火，相反在浏览器里播放rtsp就很困难了

## 关于直播 ##

直播应用中，RTMP和HLS基本上可以覆盖所有客户端观看。

> ・RTSP优势主要在于传输层可以使用udp/rtp，实时性好，延迟可控制到1s内，  
> ・RTMP主要优势在于延时相对较低(1-3s)，而且RTMP支持的很完善，能做到flash播放RTMP流长时间不断流，以前很多SIP的视频会议已被RTMP所取代。  
> ・HLS的优势就是直接使用http协议请求流数据，可以在不同速率的版本间自由切换，实现无缝播放，缺点是延时比较大(10s以上)。

三种协议各有各的优势，主要还是看场景选择，当然大点公司，可以做些私有协议来提供更好更符合场景的服务。

参考：  
[RFC3550][]  
[维基百科][Link 1]

[format_png]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9pbWcyMDIwLmNuYmxvZ3MuY29tL2Jsb2cvMTM4NDU1NS8yMDIwMDMvMTM4NDU1NS0yMDIwMDMwNzIyNDMzMTg2NC01MTA0ODY4NDkucG5n?x-oss-process=image/format,png
[format_png 1]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9pbWcyMDIwLmNuYmxvZ3MuY29tL2Jsb2cvMTM4NDU1NS8yMDIwMDMvMTM4NDU1NS0yMDIwMDMwNzIyNDM1MzQ5NS0xOTMyMDgyMDIxLnBuZw?x-oss-process=image/format,png
[http_live.hkstv.hk.lxdns.com_live_hks_playlist.m3u8]: http://live.hkstv.hk.lxdns.com/live/hks/playlist.m3u8
[RFC3550]: https://tools.ietf.org/html/rfc3550
[Link 1]: https://en.wikipedia.org/wiki/Real_Time_Streaming_Protocol