评测标准

为什么需要性能评测标准?

微信小游戏性能评测标准建立的初衷是希望能引导开发者优化相关性能数据,提升用户体验。

评测标准根据小游戏整体的性能数据表现、玩家体验评价,结合操作系统、机型分档、网络条件等多种维度建立。

开发者需要关注哪些性能指标

从小游戏的运行周期来看,主要由启动和运行两个阶段产生性能问题。

  • 启动阶段:启动时长,该数据将显著影响用户打开留存率
  • 运行阶段:内存峰值、Crash率、CPU占用、流畅度、网络等
  • 其他兼容性问题,包括JS异常、黑屏等严重问题

评测环境与方法

从游戏的生产过程来看,我们主要从开发与现网两个环境进行评测。

开发阶段:

  • 评测过程的客观环境更为稳定(比如固定的机型基线,网络环境等)
  • Profile数据更为详细,方便掌握性能细节

现网阶段:

  • 基于统计角度进行评测,从整体采样数据取反映游戏质量
  • 覆盖开发测试阶段无法预估的业务场景,比如网络异常、特定条件下的JS异常等

评测标准细则

开发阶段评测标准

此阶段为当前小游戏新版本还未上线时进行评测的方法,开发者可以利用PerfDog 或小游戏云测试进行数据获取。

性能基线

评测小游戏性能首先需要确定性能基线, 即先确定机型设备条件。根据目前小游戏玩家机型情况建议以下机型:

注意:

  1. 性能基线机型并非特定,但建议综合CPU、内存、GPU等选取性能相当的机型
  2. "占比"为目前小游戏玩家大致分布,供项目组参考

评测工具

PerfDog测试方法说明:

小游戏云测试方法说明:

  • 云测试服务是一套完整易用的在线测试服务,以帮助开发者更高效、更全面地进行自动化游戏性能测试、兼容性测试。更多详情可查阅小游戏云测试

iOS开发阶段性能评测标准

Android开发阶段性能评测标准

现网环境评测标准

现网环境的性能评测与开发阶段有所不同,我们不再使用单一机型做性能基线,而是依赖现网真实玩家上报的性能数据进行评测。

评测工具

可以使用小游戏数据助手应用中的“数据-性能分析”获取现网玩家的性能采集数据:

iOS现网性能评测标准

Android现网性能评测标准

影响性能的客观因素

机型分档

微信小游戏的玩家所使用的机型设备也是千差万别,但机型设备又是极为影响性能评测的一个因素。因此,我们需要对众多的机型设备进行一致性分档,唯有此才能更好的定位出现性能瓶颈的设备。

从上图可以看到,Android厂商品牌比iOS明显多得多,Android TOP50也无法覆盖50%的机型。 目前我们的机型分档主要参考机型的CPU、GPU、内存等硬件因素进行分档,对600+款设备分为高中低三档,涵盖>90%以上用户数据。 现网数据中的机型分档的用户占比情况如下图所示:

网络环境

目前微信小游戏网络主要为WIFI和4G类型,随着网络条件的改善,也将有越来越多的玩家有5G和更好的WIFI网络质量。

微信版本与基础库版本

微信客户端iOS与Android以各自不同的迭代速度更新版本,基础库与客户端之间的关系可查阅《基础库》
公共库版本迭代节奏较快,每个版本都会带来新特性与已知BUG的修复。现网的版本分布可查阅《基础库版本分布》