2021年5月29-31日，由極客邦科技旗下 InfoQ 中國主辦的綜合性技術(shù)盛會 QCon 全球軟件開發(fā)大會于北京召開。大會設(shè)置了包括“人工智能驅(qū)動業(yè)務(wù)實踐”、“云原生技術(shù)應(yīng)用”、“大數(shù)據(jù)實時計算與分析”、“音視頻體驗提升實戰(zhàn)”、“低代碼實踐與應(yīng)用”、“彈性工程及運維體系”等在內(nèi)的 35 個技術(shù)專題，邀請業(yè)界頂級的技術(shù)專家，面向技術(shù)團隊負(fù)責(zé)人、架構(gòu)師、工程總監(jiān)、開發(fā)人員分享技術(shù)創(chuàng)新和實踐。
圖1：2021Qcon·北京站
在音視頻服務(wù)解決方案專場中，全球互聯(lián)網(wǎng)通信云領(lǐng)先廠商融云作為受邀嘉賓，重點解析了融云音視頻SDK的自動化測試鏈路探索與實踐，讓開發(fā)者了解了SDK 打包集成測試過程中的難點痛點，以及多樣性 SDK 自動化交互測試設(shè)計思路。
測試的終極目標(biāo)是保證SDK質(zhì)量
融云自2014年創(chuàng)立以來，專注于通信云賽道，以提供SDK/API的方式，為數(shù)百種應(yīng)用場景賦予通信云能力。為了不斷滿足開發(fā)者對產(chǎn)品功能的需求，成立7年來，融云的SDK接口數(shù)量從279個增長到597個，服務(wù)端的API接口數(shù)量從36個增長到107個，并且適配Android、iOS、Web、Flutter、小程序、桌面版等全平臺。
同時，融云還將眾多的SDK集合成不同類型的Demo，方便開發(fā)者調(diào)用，覆蓋了直播模式SealLive、即時通訊SealTalk、融云課堂SealClass、實時音視頻SealRTC、語音聊天室SealMic、視頻會議SealMeeting等眾多場景。這些場景化的Demo和SDK已累計服務(wù)超過 30萬款A(yù)pp，SDK觸達50億用戶。
伴隨著SDK數(shù)量增長，和場景Demo的多樣化，開發(fā)者最關(guān)心的是融云如何保障終端SDK的質(zhì)量。會上，融云自動化測試架構(gòu)師陳沛杰發(fā)表了《融云 SDK 交付質(zhì)量保障探索及應(yīng)用》的主題演講，從實戰(zhàn)經(jīng)驗出發(fā)，為開發(fā)者答疑解惑。
圖2：融云自動化測試架構(gòu)師陳沛杰發(fā)表演講
目前，衡量音視頻質(zhì)量的指標(biāo)眾多，分為直接與音視頻相關(guān)的和與網(wǎng)絡(luò)相關(guān)的兩大類。其中，直接與音視頻相關(guān)的包括視頻連通率、卡頓、清晰度、花屏、黑屏、首幀時間，以及音頻嘯叫抑制、回聲抵消、噪聲抑制等;而在網(wǎng)絡(luò)傳輸中，弱網(wǎng)、丟包、延時、抖動和網(wǎng)絡(luò)自適應(yīng)調(diào)整，也會影響終端SDK質(zhì)量。此外，CPU、內(nèi)存、IO、流量、發(fā)熱等性能指標(biāo)，與安全、兼容相關(guān)的靜態(tài)代碼掃描、安全工具分析，以及版本兼容、設(shè)備碎片化等，也都是影響終端SDK質(zhì)量的因素。
因此，為交付有質(zhì)量保證的SDK，融云的做法就是兩個字：測試。只有通過測試，才能掌握這些指標(biāo)，進而針對薄弱環(huán)節(jié)加以優(yōu)化，確保SDK穩(wěn)定性。在測試環(huán)節(jié)，融云通過工具化、腳本化的方式，實現(xiàn)Demo業(yè)務(wù)測試的自動化，通過對業(yè)務(wù)測試、專項測試、SDK 接口測試的快速迭代，來跟進和掌握相關(guān)指標(biāo)數(shù)據(jù)。
基于業(yè)務(wù)的專項自動化測試實踐
融云對Demo業(yè)務(wù)自動化測試的思考基于兩個維度：一個是如何實現(xiàn)業(yè)務(wù)自動化測試，保證終端 SDK 產(chǎn)品多樣性以及多端交互的穩(wěn)定性?另一個是音視頻專項測試是如何進行的?
在業(yè)務(wù)自動化測試實踐方面，融云通過對終端業(yè)務(wù)自動化測試工具的選型，制定出科學(xué)的終端業(yè)務(wù)自動化測試流程。
圖3：終端業(yè)務(wù)自動化測試流程
通過這一流程，首先可以實現(xiàn)在大量的 Android 、Web、iOS 、Win、Mac 之間任意自由組合，進行多端交互、交叉測試。其次，利用插件重點關(guān)注連通率、穩(wěn)定性、畫面檢測(黑屏、綠屏等)、性能數(shù)據(jù)、弱網(wǎng)和抓包數(shù)據(jù)等重要質(zhì)量指標(biāo)。第三，完整保存了終端過程數(shù)據(jù)。例如：日志、真實終端渲染后音頻、視頻畫面錄制等。
在音視頻專項測試的實踐方面，測試需要實現(xiàn)端到端的整體覆蓋，包括采集、預(yù)處理、編碼，到網(wǎng)絡(luò)傳輸，再進行解碼、后處理和渲染的整個傳輸過程。
圖4：音視頻專項測試實踐
要完成這一過程，陳沛杰以音視頻抗丟包自動化測試為例，介紹了主要步驟：
通過業(yè)務(wù)UI自動化平臺鏈接到網(wǎng)損儀路由;
由接口調(diào)用網(wǎng)損儀的相關(guān)參數(shù)傳輸至終端設(shè)備，錄制終端畫面后，上傳至平臺。
第三， 自動或人工分析，完成音視頻抗丟包自動化測試。
此外，融云還可通過傳統(tǒng)手工+測試工具結(jié)合的方式，進行自動化測試，完成端到端的延時測試，以及通過工具實現(xiàn)性能數(shù)據(jù)統(tǒng)計等。
通過這些測試，最終可以掌握諸如CPU 占用率、內(nèi)存占用值、耗電量、流量、FPS、卡頓等相關(guān)性能指標(biāo)，以及視頻、聲音延遲;視頻、聲音質(zhì)量;嘯叫距離、嘯叫抑制和音頻、視頻通話抗丟包的測試數(shù)據(jù)。
融云SDK接口自動化測試探索
所謂SDK接口自動化測試，就是要驗證SDK 接口字段校驗覆蓋率、SDK 接口復(fù)雜調(diào)用的可測試性以及系統(tǒng)版本及設(shè)備碎片化覆蓋率。目前，普遍使用的SDK接口測試方案有三種：SDK單元測試、UI自動化方法和注冊廣播方法。
圖5：SDK接口測試方案
在實踐中，融云認(rèn)為SDK自動化測試工具應(yīng)具備以下能力：
第一，大部分 SDK 接口做到脫離 UI 可以快速迭代;
第二，可以對 SDK 接口字段進行自由組合邏輯校驗;
第三，可以范圍性的開展 SDK 打包集成測試。
基于此，融云對SDK自動化測試工具進行了兩次探索與迭代，第一版采用的是終端設(shè)備微服務(wù)模式，SDK 接口綁定 URL 地址;第二版則通過 URL 動態(tài)反射接口，實現(xiàn)了參數(shù)動態(tài)反射序列化。
最后，陳沛杰強調(diào)：自動化測試要盡可能在短的測試周期內(nèi)達到更高的覆蓋率，并且自動化測試盡量不以流程為中心，應(yīng)適應(yīng)場景快速變化的需要。
圖 6：開發(fā)者聆聽演講
結(jié)語
通過測試和優(yōu)化，目前，融云音頻最大抗丟包可達80%，視頻最大抗丟包40%;語音延遲小于120 ms，視頻延遲小于 200 ms，語音直播延遲小于350 ms，視頻直播延遲小于350 ms，可保障端到端之間延遲無感知的實時互動。從陳沛杰的分享中也能夠看出，融云之所以擁有卓越的音視頻能力，源于融云對于各項技術(shù)的嚴(yán)苛要求和不懈探索。過硬的指標(biāo)，過硬的質(zhì)量，永遠是融云追求的方向。
