【移动开】关于视频直播技术,你想如果清楚之且于这里了(三)编码和打包

有关直播的技艺文章未掉,成体系的免多。我们用故七首文章,更系统化地介绍这大热的视频直播各环节的关键技术,帮助视频直播创业者们重新完美、深入地问询视频直播技术,更好地技术选型。

视频编码是视频直播技术多元文章的老三篇,是本系列一个格外关键之一对,是运动支付必修的根基科目,本篇文章于理论到执行一网于尽主流编码器。

设若把全流媒体比喻成一个物流体系,那么编解码就是里配货及装货的经过,这个进程充分重要,它的进度以及削减比对物流系统的含义特别特别,影响物流系统的完好进度及本金。同样,对流媒体传输来说,编码为酷关键,它的编码性能、编码速度跟编码压缩比会直接影响整流媒体传输的用户体验和传导成本。

遵系列文章大纲之类,想复习之前文章的直白点击上链接:

(一)采集

(二)处理

(三)编码和包裹

(四)推流和导

(五)现代播放器原理

(六)延迟优化

(七)SDK 性能测试模型

视频编码的意义

  • 故视频数据存储空间充分,一个 1080P 的 7 s 视频需要 817 MB
  • 原视频数据传占带富大,10 Mbps 的拉动富传输上述 7 s 视频需要 11
    分钟

设透过 H.264 编码压缩后,视频大小只有 708 k ,10 Mbps 的带宽仅仅用
500 ms
,可以满足实时传输的要求,所以从视频采访传感器收集来之原始视频势必要通过视频编码。

基本原理

那么为什么巨大的原来视频可以编码成稀粗的视频也?这里面的技能是啊为?
核心思想就是去冗余信息:

  • 空间冗余:图像相邻像素之间有比强的相关性
  • 时刻冗余:视频序列的邻座图像里内容类同
  • 编码冗余:不同像素值出现的几率不同
  • 视觉冗余:人之视觉系统针对一些细节无灵活
  • 文化冗余:规律性的组织可由先验知识以及背景知识得到

视频本质上谈是同等多元图片连续快速的播音,最简便的滑坡方式就是是针对各国一样帧图片进行压缩,例如比较古老的
MJPEG
编码就是这种编码方式,这种编码方式只生帧内编码,利用空间达到的抽样预测来编码。形象之比喻就是管每帧都作一如既往摆设图,采用
JPEG
的编码格式对图纸展开削减,这种编码只考虑了同等布置图片内之冗余信息压缩,如图
1,绿色的部分就是是时需编码的区域,灰色就是没有编码的区域,绿色区域可以依据已编码的一对开展前瞻(绿色的左手,下边,左下等)。

图1

然而帧和帧之间为时的相关性,后续开发有了有比较高档的编码器可以动用帧间编码,简单点说就是是通过搜索算法选定了帧上的一点区域,然后经过计算时帧和前后参考帧的通往量差进行编码的一模一样种样式,通过下两个图
2
连续帧我们好看看,滑雪的同窗是上前位移的,但骨子里是雪景在向阳后各移,P
帧通过参考帧(I 或另 P
帧)就可展开编码了,编码之后的轻重很小,压缩比老高。

图 2

或来同学对就半布置图纸怎么来之谢谢兴趣,这里用了 FFmpeg
的少执行命令来促成,具体 FFmpeg 的还多内容要看后续章节:

  • 先是行生成带有移动矢量的视频
  • 次行把各个一样轴都输出成图

ffmpeg  -flags2 +export_mvs -i tutu.mp4 -vf codecview=mv=pf+bf+bb tutudebug2.mp4

ffmpeg -i tutudebug2.mp4 'tutunormal-%03d.bmp'

除外空间冗余和时冗余的滑坡,主要还有编码压缩和视觉减少,下面是一个编码器主要的流程图:

图 3

图 4

祈求 3、图 4 两只流程,图 3 是帧内编码,图 4
凡是帧间编码,从图上观望的要分就是第一步不一样,其实这有限个流程也是收合在一起的,我们日常说之
I 帧和 P 帧就是独家采取了帧内编码和帧间编码。

编码器的选料

前面梳理了转编码器的原理同主导流程,编码器经历了数十年之前行,已经从开的特支持帧内编码演进到今之
H.265 和 VP9
为代表的新一代编码器,就目前部分广大的编码器进行剖析,带大家探讨一下编码器的社会风气。

H.264

简介

H.264/AVC
项目意向创建同种植视频正式。与老专业比,它亦可以又低带宽下提供上乘视频(换言之,只有
MPEG-2,H.263 或 MPEG-4 第 2
有的的一半拉动富或更少),也不搭极其多设计复杂度使得无法实现或落实基金过高。另一样目的是供足够的油滑以当各种应用、网络以及系统遭到以,包括高、低带宽,高、低视频分辨率,广播,DVD
存储,RTP/IP 网络,以及 ITU-T 多媒体公用电话系统。

H.264/AVC
包含了一如既往层层初的表征,使得她比较由以前的编解码器不但会又管用的进展编码,还能于各种网络环境下之动中运用。这样的艺基础为
H.264 成为包括 YouTube
在内的在线视频公司利用它当作关键的编解码器,但是用它并无是同一桩好轻松的事体,理论及言语用
H.264 需要上缴不菲的专利费用。

专利许可

及 MPEG-2 第一有、第二局部,MPEG-4第二局部雷同,使用 H.264/AVC
的出品制造商和服务提供商需要往她们之制品所采取的专利的所有者支付专利许可费用。这些专利许可的重中之重来自是同等家名叫
MPEG-LA LLC 的个体组织,该集体和 MPEG
标准化组织并未其它关联,但是该团伙为管理著 MPEG-2
第一有些系、第二有的视频、MPEG-4
第二有视频以及其它一些技巧的专利许可。

外的专利许可则用往其他一样贱名为 VIA Licensing
的私房组织报名,这家商店另外呢管理偏向音频压缩的正经而 MPEG-2 AAC 及
MPEG-4 Audio 的专利许可。

H.264 的开源实现

  • openh264
  • x264

openh264
是思科实现之开源 H.264 编码,虽然 H.264
需要上缴不菲的专利费用,但是专利费有一个年份上限,思科把 OpenH264
实现之春专利费交满后,OpenH264 事实上便得免费自由之使了。

x264
x264凡是一个应用GPL授权的视频编码自由软件。x264 的重要性意义在进行
H.264/MPEG-4 AVC 的视频编码,而休是当做解码器(decoder)之故。

除开开销问题比较来拘禁:

  • openh264 CPU 的占用相对 x264不如多
  • openh264 只支持 baseline profile,x264 支持更多 profile

HEVC/H.265

简介

大效率视频编码(High Efficiency Video
Coding,简称HEVC)是一律种植视频压缩标准,被视为是 ITU-T H.264/MPEG-4 AVC
标准的子孙后代。2004 年开由于 ISO/IEC Moving Picture Experts
Group(MPEG)和 ITU-T Video Coding Experts Group(VCEG)作为 ISO/IEC
23008-2 MPEG-H Part 2 或如作 ITU-T H.265 开始制订。第一版本的 HEVC/H.265
视频压缩标准以 2013 年 4 月 13
日被受吗国际电信联盟(ITU-T)的科班标准。HEVC
被认为不但提升视频质量,同时也克落得 H.264/MPEG-4 AVC
两倍增的压缩率(等同于同一画面质量下比特率减少了 50%),可支撑 4K
分辨率甚至到超高清电视(UHDTV),最高分辨率可直达
8192×4320(8K分辨率)。

H.265 的开源实现

  • libde265
  • x265

libde265
HEVC 由 struktur 公司盖开源许可证 GNU LesserGeneral Public License
(LGPL)
提供,观众可于缓的网速下欣赏到最高品质之影像。跟原先基于H.264标准的解码器相比,libde265
HEVC 解码器可以将公的全高清内容带被多上两倍增的受众,或者,减少 50%
流媒体播放所需要的带动富。高清或者 4K/8K
超高清流媒体播发,低顺延/低带宽视频会议,以及完整的动设备覆盖。具有「拥塞感知」视频编码的泰,十分抱采取在
3/4G 和 LTE 网络。

专利许可

HEVC Advance 要求具备包括苹果、YouTube、Netflix、Facebook、亚马逊等使
H.265 技术之始末制造商上缴内容收入的
0.5%看作技术使用费,而整个流媒体市场每年上约 1000
亿美元之层面,且不断增强被,征收
0.5%纯属是均等画大的开支。而且她们还并未放开了设备制造商,其中电视厂商用开发每台
1.5 美元、移动装备厂商每令 0.8
美元的专利费。他们甚至没放开了蓝光设备播放器、游戏机、录像机这样的厂商,这些厂商必须支付每令
1.1 美元之花销。最无法让人领之是,HEVC Advance
的专利使用权追溯至了厂商的「」”,意思是前已出售的制品依旧要追缴费用。

x265 是出于
MulticoreWare 开发,并开源。采用 GPL
协议,但是资助是类型之几乎独商店结合了联盟可以以非 GPL
协议下下这个软件。

VP8

简介

VP8 是一个开之视频压缩格式,最早由 On2 Technologies 支出,随后出于
Google 发布。同时 Google 也发表了 VP8 编码的实做库:libvpx,以 BSD
授权条款的办法发行,随后也增大了专利使用权。而于经一些争论不休过后,最终
VP8 的授权确认为一个盛开源代码授权。

此时此刻支撑 VP8 的网页浏览器有 Opera、Firefox 和 Chrome。

专利许可

2013 年三月,Google 同 MPEG LA 及 11 只专利持有者达成协议,让Google 获取
VP8 以及其前的 VPx 等编码所可能侵犯的专利授权,同时 Google
也可无条件再次授权相关专利为 VP8 的用户,此协议而适用于下一致替 VPx
编码。至此 MPEG LA 放弃成立 VP8 专利集中授权联盟,VP8
的用户以只是规定义务使用是编码而毫不担心或的专利侵权授权金的题材。

VP8 的开源实现

  • libvpx

libvpx
是 VP8 的绝无仅有开源实现,由 On2 Technologies 开销,Google
收购后将该开放源码,License 非常宽松可以随心所欲使用。

VP9

简介

VP9 的开从 2011 年第三季开始,目标是于同画质下,比 VP8 编码减少
50%底文件大小,另一个对象虽然是一旦于编码效率及跳 HEVC 编码。

2012 年 12 月 13 日,Chromium 浏览器在了 VP9 编码的支撑。Chrome
浏览器虽然是在 2013 年 2 月 21 日起来支持 VP9 编码的视频播放。

Google 宣布会在 2013 年 6 月 17 日完成 VP9 编码的制订干活,届时Chrome
浏览器将见面把 VP9 编码默认引导。2014 年 3 月 18 日,Mozilla 于 Firefox
浏览器中进入了 VP9 的支撑。

2015 年 4 月 3 日,谷歌宣布了 libvpx1.4.0 增加了对 10 位和 12
位的比特深度支持、4:2:2 及 4:4:4 色度抽样,并 VP9 多为重编/解码。

专利许可

VP9 凡一个开格式、无权利金的视频编码格式。

VP9 的开源实现

  • libvpx

libvpx
是 VP9 的绝无仅有开源实现,由 Google 开发保护,里面来一部分代码是 VP8 和 VP9
公用的,其余分别是 VP8 和 VP9 的编解码实现。

VP9 和 H.264 和 HEVC 比较

Codec HEVC x264 vp9
HEVC -42.2% 32.6%
x264 75.8% 18.5%
vp9 48.3% -14.6%
Codec HEVC vs. VP9(in %) VP9 vs. x264 (in %)
Total Average 612 39399

引用 Comparative Assessment of H.265/MPEG-HEVC, VP9, and
H.264/MPEG-AVC Encoders for Low-Delay Video Applications
这篇比较新的论文对,低延迟视频进行编码的测试结果。

HEVC 和 H.264 在不同分辨率下的于

跟 H.264/MPEG-4 相比,HEVC 的平分比特率减低值为:

分辨率 480P 720P 1080P 4K UHD
HEVC 52% 56% 62% 64%

可见码率下降了 60% 以上。

  • HEVC (H.265) 对 VP9 和 H.264 在码率节省上产生较充分之优势,在一如既往 PSNR
    下分别节省了 48.3% 和 75.8%。
  • H.264 在编码时间达到出巨大优势,对比 VP9 和 HEVC(H.265) ,HEVC 是 VP9
    的6加倍,VP9 凡 H.264 的滨 40 倍

FFmpeg

开口到视频编码相关内容即不得不提一个壮烈之软件包 — FFmpeg。

FFmpeg
是一个自由软件,可以运作音频和视频又格式的录影、转换、流功能,包含了
libavcodec ——这是一个用来多单门类中音频和视频的解码器库,以及
libavformat ——一个节奏与视频格式转换库。

FFmpeg 这个单词遭的 FF 指的凡 Fast Forward。有些新手写信给 FFmpeg
的品类负责人,询问 FF 是未是象征 Fast Free 或者 Fast Fourier
等意思,FFmpeg 的项目官员回信说:「Just for the record, the original
meaning of FF in FFmpeg is Fast Forward…」

这路前期是出于 Fabrice Bellard 发起的,而今天凡由 Michael Niedermayer
在进展维护。许多FFmpeg的开发者同时也是 MPlayer 项目的分子,FFmpeg 在
MPlayer 项目遭到是被规划呢服务器版本进行开。

FFmpeg 下充斥地址是 : FFmpeg
Download

  • 足浏览器输入下载,目前支撑 Linux ,Mac OS,Windows
    三单主流的平台,也足以团结编译到 Android 或者 iOS 平台。
  • 若是 Mac OS ,可以经过 brew 安装
    brew install ffmpeg --with-libvpx --with-libvorbis --with-ffplay

咱们好就此 FFmpeg
来开什么样有因此生有趣的事务吗?通过一致多级小尝试来拉动大家知晓 FFmpeg
的神奇和强大。

FFmpeg 录屏

通过一个不怎么例子看一下怎么在 Mac OS 下面采用 FFmpeg 进行录屏:

输入:

ffmpeg -f avfoundation -list_devices true -i ""

输出:

[AVFoundation input device @ 0x7fbec0c10940] AVFoundation video devices:
[AVFoundation input device @ 0x7fbec0c10940] [0] FaceTime HD Camera
[AVFoundation input device @ 0x7fbec0c10940] [1] Capture screen 0
[AVFoundation input device @ 0x7fbec0c10940] [2] Capture screen 1
[AVFoundation input device @ 0x7fbec0c10940] AVFoundation audio devices:
[AVFoundation input device @ 0x7fbec0c10940] [0] Built-in Microphone

受起了手上设备支持的拥有输入设备的列表和数码,我本地有一定量块显示器,所以 1
和 2 都是本身屏幕,可以选取一样片进行录屏。

翻时之 H.264 编解码器:

输入:

ffmpeg -codecs | grep 264

输出:

 DEV.LS h264                 H.264 / AVC / MPEG-4 AVC / MPEG-4 part 10 (decoders: h264 h264_vda ) (encoders: libx264 libx264rgb )

翻看时底 VP8 编解码器:

输入:

ffmpeg -codecs | grep vp8

输出:

  DEV.L. vp8                  On2 VP8 (decoders: vp8 libvpx ) (encoders: libvpx )

得选择用 vp8 或者 h264 做编码器

ffmpeg -r 30 -f avfoundation -i 1 -vcodec vp8 -quality realtime screen2.webm
# -quality realtime 用来优化编码器,如果不加在我的 Air 上帧率只能达到 2

or

ffmpeg -r 30 -f avfoundation -i 1 -vcodec h264 screen.mp4

然后据此 ffplay 播放就可了

ffplay screen.mp4

or

ffplay screen2.webp

FFmpeg 视频转换成 gif

发一个专程实用之求,在网上发现了一个特地幽默之视频想将她换成为一个动态表情,作为一个
IT
从业者,我先是单想到的未是下充斥一个转码器,也无是错开探寻一个在线转换网站,直接使用手边的家伙
FFmpeg,瞬间就算水到渠成了转码:

ffmpeg -ss 10 -t 10  -i tutu.mp4  -s 80x60  tutu.gif
## -ss 指从 10s 开始转码,-t 指转换 10s 的视频 -s

FFmpeg 录制屏幕并直播

足持续壮大例子1,直播时屏幕的始末,向大家介绍一下庸通过几执行命令搭建筑一个测试用之直播服务:

Step 1:首先安装 docker:
访问 Docker
Download
,按操作系统下载安装。

Step 2:下载 nginx-rtmp 镜像:

docker pull chakkritte/docker-nginx-rtmp

Step 3:创建 nginx html 路径,启动 docker-nginx-rtmp

mkdir ~/rtmp

docker run -d -p 80:80 -p 1935:1935 -v ~/rtmp:/usr/local/nginx/html chakkritte/docker-nginx-rtmp

Step 4:推送屏幕录制到 nignx-rtmp

ffmpeg -y -loglevel warning -f avfoundation -i 2 -r 30 -s 480x320 -threads 2 -vcodec libx264  -f flv rtmp://127.0.0.1/live/test

Step 5:用 ffplay 播放

ffplay rtmp://127.0.0.1/live/test

总一下,FFmpeg
是独良好之家伙,可以透过它们就很多平常的办事和试验,但是去提供真正可用之流媒体服务、直播服务还有非常多之做事如召开,这上头可以参考七牛云发布之
七牛直播云服务

封装

介绍了了视频编码后,再来介绍一些卷入。沿用前的比方,封装好领略也使用哪种货车去运输,也尽管是传媒之器皿。

所谓容器,就是把编码器生成的多媒体内容(视频,音频,字幕,章节信息等)混合封装于同的标准。容器使得不同多媒体内容并播报变得十分粗略,而容器的另外一个打算就是是啊多媒体内容提供索引,也就是说要没容器在的口舌一样总理影视而只能由平开始看最后,不克拖动进度久(当然这种状态下一些播放器会话比较丰富之岁月即创办索引),而且若你无和谐去手动另外载入音频就是没声音,下面介绍几栽普遍的封装格式和优缺点:

  1. AVI 格式(后缀为 .AVI): 它的英文全称为 Audio Video Interleaved
    ,即音频视频交错格式。它被 1992 年被 Microsoft 公司生产。
    这种视频格式的长处是图像质量好。由于无损AVI可以保留 alpha
    通道,经常吃我们应用。缺点最为多,体积过于庞大,而且更糟糕之是缩减正式未联合,最广泛的景象即是强版本
    Windows 媒体播放器播放不了动用早期编码编辑的AVI格式视频,而低版本
    Windows
    媒体播放器又播放不了使最新编码编辑的AVI格式视频,所以我们当展开一些AVI格式的视频播放时会出现由于视频编码问题如招致的视频不可知播放还是就会播放,但在无克调节播放进度及播音时不过生声响没有图像等有莫名其妙的问题。

  2. DV-AVI 格式(后缀为 .AVI): DV的英文全称是 Digital Video Format
    ,是由于索尼、松下、JVC 等多家厂商并提出的如出一辙种植家用数字视频格式。
    数字摄像机就是行使这种格式记录视频数据的。它好经计算机的 IEEE 1394
    端口传输视频数据及计算机,也可以以电脑被修好的底视频数据回录到多少摄像机中。这种视频格式的文件扩展名也是
    avi。电视台利用录像带记录模拟信号,通过 EDIUS 由IEEE
    1394端口采集卡从录像带中募集出来的视频即是这种格式。

  3. QuickTime File Format 格式(后缀为 .MOV):
    美国Apple公司开的平栽视频格式,默认的播放器是苹果的QuickTime。
    享有较高的压缩比率和比全面的视频清晰度等特性,并可保存alpha通道。

  4. MPEG 格式(文件后缀可以是 .MPG .MPEG .MPE .DAT .VOB .ASF .3GP
    .MP4等) : 它的英文全称为 Moving Picture Experts
    Group,即走图像专家组格式,该师组建为1988年,专门负责啊 CD
    建立视频及音频标准,而成员都是吗视频、音频及系统领域的技巧专家。
    MPEG 文件格式是活动图像压缩算法的国际标准。MPEG
    格式目前发三只缩减正式,分别是 MPEG-1、MPEG-2、和MPEG-4
    。MPEG-1、MPEG-2 目前曾经使比较少,着重介绍
    MPEG-4,其制定为1998年,MPEG-4
    是为了播放流式媒体之高质量视频使特别规划之,以告用最少的多寡获得最佳的图像质量。目前
    MPEG-4 最有吸引力的地方在她能保留接近于DVD画质的小体积视频文件。

  5. WMV 格式(后缀为.WMV .ASF): 它的英文全称为Windows Media
    Video,也是微软生产的同一栽采取独立编码方式并且可以直接在网上实时看到视频节目的文件压缩格式。
    WMV格式的重要性优点包括:本地或网络回放,丰富的流间关系与扩展性等。WMV
    格式需要在网站及广播,需要设置 Windows Media Player( 简称 WMP
    ),很无便宜,现在曾经几乎没网站使用了。

  6. Real Video 格式(后缀为 .RM .RMVB): Real Networks
    公司所制定的音频视频压缩正式称为Real Media。
    用户可使 RealPlayer
    根据不同之大网传输速率制定有不同之压缩比率,从而实现以低速率的大网达到拓展形象数据实时传送和播发。RMVB
    格式:这是相同种植由RM视频格式升级延伸出底初视频格式,当然性能达到生深怪之升官。RMVB
    视频呢是有着比较强烈的优势,一部大小为700MB左右之 DVD
    影片,如果用那转录成同样品质之 RMVB 格式,其个头最多吧就 400MB
    左右。大家或许注意到了,以前以网络上下载电影及视频的当儿,经常接触到
    RMVB
    格式,但是随着时代的上进这种格式为越来越多的更美好之格式替代,著名的众人影视字幕组在2013年曾经发表不再限于
    RMVB 格式视频。

  7. Flash Video 格式(后缀为 .FLV):由 Adobe Flash
    延伸出来的底相同种植流行网络视频封装格式。随着视频网站的长,这个格式就好普及。

  8. Matroska 格式(后缀为
    .MKV):是平等栽新的多媒体封装格式,这个封装格式可管多种不同编码的视频以及16漫漫或上述不同格式的音频和言语不同之字幕封装到一个
    Matroska Media
    档内。它呢是中间同样种开放源代码的多媒体封装格式。Matroska
    同时还可提供充分好之相互作用,而且比 MPEG 的好、强大。

  9. MPEG2-TS 格式 (后缀为 .ts)(Transport
    Stream“传输流”;又如MTS、TS)是如出一辙栽传输和仓储包含音效、视频以及通信协议各种数码的专业格式,用于数字电视广播系统,如DVB、ATSC、IPTV等等。
    MPEG2-TS 定义为 MPEG-2
    第一局部,系统(即原来之ISO/IEC标准13818-1或者ITU-T Rec. H.222.0)。
    Media Player Classic、VLC
    多媒体播放器等软件可以直接播放MPEG-TS文件。

当前,我们以流媒体传输,尤其是直播中重点行使的就是 FLV 和 MPEG2-TS
格式,分别用于 RTMP/HTTP-FLV 和 HLS 协议。

产一致期我们用军事联盟系统讲授视频直播的推流和导,尽请期待~

admin

网站地图xml地图