β

手游录屏直播技术详解 | 直播 SDK 性能优化实践

七牛云存储 37 阅读

直播无疑是 2016 年的大热话题,七牛云在 6 月底发布了实时流网络 LiveNet 和直播云解决方案后,我们用 《直播技术详解》系列文章 系统地介绍了直播各个环节的关键技术,帮助视频直播创业者们更全面、深入地了解直播技术,更好地技术选型。《直播 SDK 性能优化实践》系列文章是介绍七牛云在直播 SDK 上的技术创新实践。

在上期 《直播推流端弱网优化策略 》 中,我们介绍了直播推流端是如何优化的。本期,将介绍手游直播中录屏的实现方式。


直播经过一年左右的快速发展,衍生出越来越丰富的业务形式,也覆盖越来越广的应用领域。手游直播就是现在常见的一种新兴应用场景。手游直播与一般直播最大的不同点,同时也是它的技术难点,在于录屏技术。游戏玩家录屏功能,实时地把自己玩游戏的场景分享展示给其他观众。录屏给很多游戏制作平台和直播内容平台提供了一种新的产品思路。

录屏实现的四个步骤:

  1. 采集:获取屏幕采集的视频数据、麦克风采集的音频数据、游戏内置的音频数据。
  2. 处理:转化成可以推流的标准格式,防止推出的流有问题。
  3. 编码:处理好硬编支持,节省终端的性能开销。
  4. 封包、推流:和 普通的直播方式 一样处理。

从以上的录屏步骤来看,录屏直播和普通直播的采集源发生了变化。而真正实现录屏直播功能,则需要我们获取到数据,处理成能更稳定编码、推流的格式,最后才能稳定高质量地推出视频流。

iOS 的录屏思路简述

  • ReplayKit
ReplayKit 是苹果 iOS 10 以上版本提供的用于录屏并对外直播的功能。简单而言就是苹果通过这个功能把采集到的屏幕视频信息和音频信息回调给开发者,开发者可以任意处理这些信息。但是问题是,ReplayKit 使用上限制较多,首先要求系统必须为 iOS 10 以上;其次,被录屏的 App 必须支持 ReplayKit 功能。这也很容易理解,毕竟录屏是比较敏感的行为。所以必须游戏本身支持,以表示被录制方已经同意录屏。熊猫 TV 作为国内首家支持 ReplayKit Live 的直播平台,开创了直播行业的先河。熊猫 TV iOS 上的录屏方案采用七牛提供的 ReplayKit 方案实现。
  • Airplay Mirroring

Airplay Mirroring 是苹果用于屏幕投影的功能,投屏的原理就是把设备的屏幕数据和音频数据通过 Airplay Mirroring 协议传输给第三方的支持该协议的显示播放设备。但 Airplay Mirroring 是苹果的私有协议,传输过程中音视频数据都是被苹果加密的,不对第三方开放。因此要想获得这些数据,只能通过破解协议的方式来达成。

优缺点分析

%e6%88%aa%e5%9b%be-2016-12-27-10%e6%97%b648%e5%88%8603%e7%a7%92

Android 的录屏思路简述

  • View.getDrawingCache() 方法
通过 View 的 cache 内容获取到 Bitmap 对象来达到录屏的效果。但是很多手机上面该方式会存在性能问题,另外该方式并不是一个真正意义上的录屏方式,另外部分 View 组件的内容并不能获取到,比如 webview 。

Android 基于 Linux,所以可以通过读取 fb0 设备节点,即 framebuffer 中的帧数据来实现屏幕的录制。但是读取这个设备节点需要 root 权限。

  • screencap -p xxx.png/screenshot xxx.png 方法

screencap 是 Android shell 的命令,可以通过该 shell 命令读取到屏幕的帧数据来达到录屏的功能。但该命令仍然需要 root 权限。

  • MediaProjection + VirtualDisplay (>= 5.0) 方法

在 Android 5.0 以后,Google 开放了截屏的接口,可以通过「虚拟屏幕」来实现录屏。该方式是目前 PLDroidMediaStreaming 采用的方式。

七牛 iOS ReplayKit 的录屏方案 image-11

1. 游戏端自己要实现 ReplayKit 被录制端的协议;2. 录制平台集成最新版本的七牛直播 SDK ;3. 录制平台创建 Broadcast Upload Extension,让支持 ReplayKit 的游戏可以被录制;4. 添加推流管理类,拿到 ReplayKit 数据后推流出去。 iOS ReplayKit 录屏方案 demo image-13

七牛 Android 的录屏方案

1. 更新最新版本的七牛直播 SDK ;
2. AndroidManifest.xml 注册 ;
<activityandroid:name=”com.qiniu.pili.droid.streaming.screen.ScreenCaptureRequestActivity”android:theme=”@android:style/Theme.Translucent.NoTitleBar” ></activity>

3. 使用七牛提供的核心类 ScreenStreamingManager、ScreenStreamingManager 封装屏幕的录制、音频的采集,编码,封包和推流操作。用户只需要简单的调用相关 API 即可实现录屏推流。

image-14

在当你想在自己的产品中加入录屏直播功能,那么需要考虑清楚到底是自研还是使用三方的 SDK。如果采取自研方案,那么可以参考以上的录屏思路,你还需要仔细了解系统平台的 API 介绍。如果采用第三方 SDK 则可以较快集成,但需要了解 SDK 稳定性和易用性,且仔细阅读 SDK 的使用细则。

作者:七牛云存储
七牛团队博客

发表评论