6月21日，微信正式上線(xiàn)“珊瑚內(nèi)容安全助手” (以下簡(jiǎn)稱(chēng)“珊瑚”)小程序，公眾號(hào)運(yùn)營(yíng)者和小程序開(kāi)發(fā)者可以通過(guò)小程序一鍵鑒別內(nèi)容和產(chǎn)品的安全風(fēng)險(xiǎn)。作為微信首個(gè)移動(dòng)端安全鑒別工具，“珊瑚”小程序的推出，意味著微信將在內(nèi)容安全方面為運(yùn)營(yíng)者和開(kāi)發(fā)者提供更多幫助。
“三管齊下”，幫助運(yùn)營(yíng)者提高小程序內(nèi)容安全
據(jù)了解，“珊瑚”小程序?qū)檫\(yùn)營(yíng)者和開(kāi)發(fā)者提供風(fēng)險(xiǎn)自測(cè)、內(nèi)容鑒別、行業(yè)動(dòng)態(tài)等三個(gè)維度的功能，由騰訊云提供技術(shù)支持。
開(kāi)發(fā)運(yùn)營(yíng)者可通過(guò)勾選自己的產(chǎn)品功能、各功能發(fā)布內(nèi)容的情況，由“珊瑚”小程序自動(dòng)計(jì)算給出產(chǎn)品風(fēng)險(xiǎn)評(píng)級(jí)、針對(duì)性的風(fēng)險(xiǎn)提示及相應(yīng)的風(fēng)險(xiǎn)防控建議等，讓開(kāi)發(fā)運(yùn)營(yíng)者對(duì)產(chǎn)品的安全風(fēng)險(xiǎn)了然于心。
(小程序提供風(fēng)險(xiǎn)自測(cè)、圖文安全鑒別、行業(yè)動(dòng)態(tài)等功能)
在文字鑒別、圖片鑒別模塊，“珊瑚”小程序還可對(duì)用戶(hù)上傳內(nèi)容中是否含有違法有害信息給出鑒別結(jié)果，同時(shí)提供能力介紹和接入引導(dǎo)文檔，為開(kāi)發(fā)運(yùn)營(yíng)者從“體驗(yàn)”、“理解”到“接入”， 提供一站式安全能力服務(wù)。后續(xù)“珊瑚”小程序還將支持音頻、視頻鑒別能力，為用戶(hù)提供更完善的內(nèi)容安全服務(wù)。
此外，“珊瑚”小程序還包含定期更新的互聯(lián)網(wǎng)行業(yè)內(nèi)容安全動(dòng)態(tài)、相關(guān)法律法規(guī)等內(nèi)容，幫助開(kāi)發(fā)運(yùn)營(yíng)者及時(shí)掌握行業(yè)情況。
維護(hù)平臺(tái)生態(tài)健康，與開(kāi)發(fā)者運(yùn)營(yíng)者共生長(zhǎng)
隨著小程序生態(tài)的繁榮，小程序內(nèi)容安全成為外界關(guān)注的重點(diǎn)。部分小微開(kāi)發(fā)運(yùn)營(yíng)者缺乏搭建體系化內(nèi)容安全策略的能力，導(dǎo)致其開(kāi)發(fā)運(yùn)營(yíng)的小程序存在安全隱患。
為解決這些問(wèn)題，2018年5月，微信團(tuán)隊(duì)就向開(kāi)發(fā)者開(kāi)放了文字檢查、圖片檢查兩個(gè)API接口，輔助開(kāi)發(fā)者及時(shí)發(fā)現(xiàn)不良內(nèi)容信息。而在今年6月6日，微信上線(xiàn)了小程序內(nèi)容安全的異步檢查接口(mediaCheckAsync)，基于騰訊“云鸮”技術(shù)支持，向開(kāi)發(fā)者提供更高級(jí)、更強(qiáng)大的內(nèi)容安全能力，包括異步方式檢查圖片、音頻兩種多媒體文件，自動(dòng)識(shí)別色情、暴恐等違法有害高危內(nèi)容，文件大小限制也從原來(lái)同步接口的1M提升到10M，滿(mǎn)足常見(jiàn)格式和大小的圖片審核需要。
微信團(tuán)隊(duì)表示，將小程序命名為“珊瑚”，是因?yàn)樯汉魇且环N對(duì)生活環(huán)境要求較高的生物，寓意小程序、開(kāi)發(fā)運(yùn)營(yíng)者、平臺(tái)與環(huán)境之間是共生共贏的關(guān)系，只有生態(tài)中各方共同努力，維護(hù)健康生態(tài)，產(chǎn)業(yè)環(huán)境才會(huì)越來(lái)越好。
未來(lái)，“珊瑚”小程序?qū)⒒隍v訊云圖像分析等AI技術(shù)，為廣大小程序開(kāi)發(fā)者提供更強(qiáng)、更豐富的內(nèi)容安全能力，并持續(xù)運(yùn)營(yíng)、定期更新行業(yè)內(nèi)容安全動(dòng)態(tài)信息，幫助開(kāi)發(fā)運(yùn)營(yíng)者了解最新的行業(yè)情況，共建健康繁榮的小程序生態(tài)。
