近日，Soul App(下簡(jiǎn)稱“Soul”)生態(tài)安全中心發(fā)布《2024年第三季度生態(tài)安全報(bào)告》。報(bào)告顯示，2024年第三季度，Soul重點(diǎn)聚焦反電信網(wǎng)絡(luò)詐騙、優(yōu)化社交禮儀體系建設(shè)、防治網(wǎng)絡(luò)暴力、未成年保護(hù)四大用戶安全生態(tài)專項(xiàng)展開治理。
自今年以來，國(guó)家網(wǎng)信辦實(shí)施“清朗”系列專項(xiàng)行動(dòng)，嚴(yán)厲打擊自媒體違規(guī)行為，整治網(wǎng)絡(luò)暴力、網(wǎng)絡(luò)水軍、網(wǎng)絡(luò)謠言以及直播和短視頻領(lǐng)域的混亂現(xiàn)象等網(wǎng)絡(luò)生態(tài)中的突出問題，相關(guān)行動(dòng)嚴(yán)格處理違規(guī)平臺(tái)和賬號(hào)，取得明顯成效，有效震懾違規(guī)行為的同時(shí)，也促進(jìn)網(wǎng)絡(luò)環(huán)境的持續(xù)改善。
Soul積極響應(yīng)國(guó)家倡議，履行了其作為平臺(tái)的社會(huì)責(zé)任，主動(dòng)探索并實(shí)施了針對(duì)網(wǎng)絡(luò)安全重點(diǎn)和常見問題的治理措施。特別是在打擊詐騙、低俗內(nèi)容、人身攻擊、炫耀財(cái)富和網(wǎng)絡(luò)暴力等方面，Soul取得了顯著的成果。
持續(xù)上線反詐新舉措 為用戶社交安全保駕護(hù)航
在保障用戶社交安全方面，Soul持續(xù)推出新的反詐舉措以應(yīng)對(duì)網(wǎng)絡(luò)詐騙的挑戰(zhàn)。在本季度，Soul進(jìn)行了多項(xiàng)技術(shù)與功能升級(jí)，提高用戶識(shí)別和防范詐騙的能力——
在第三季度，Soul對(duì)假人設(shè)識(shí)別能力進(jìn)行了迭代，通過技術(shù)手段提高對(duì)虛假身份的識(shí)別精度，從而保護(hù)用戶免受詐騙的侵害;平臺(tái)引入網(wǎng)絡(luò)乞討文本識(shí)別和提示功能，幫助用戶識(shí)別并避免網(wǎng)乞行為的騷擾;與此同時(shí)，平臺(tái)還新增發(fā)帖場(chǎng)景中的假圖風(fēng)險(xiǎn)提醒功能，通過技術(shù)手段檢測(cè)用戶上傳的圖片是否真實(shí)，并提醒其他用戶注意圖片的真實(shí)性，有效防止虛假信息的傳播。
這些技術(shù)升級(jí)和功能革新，不僅幫助用戶提升反詐騙意識(shí)，同時(shí)也極大增強(qiáng)用戶在平臺(tái)上的安全感，在本季度，Soul 日均自動(dòng)識(shí)別處理各類網(wǎng)乞相關(guān)內(nèi)容超1萬起，日均發(fā)出假圖風(fēng)險(xiǎn)提醒約4千次。
Soul還與執(zhí)法機(jī)構(gòu)積極合作，通過平臺(tái)與警方的聯(lián)合行動(dòng)，打擊詐騙、灰黑產(chǎn)等犯罪行為。在本季度，Soul 協(xié)助警方打擊黑產(chǎn)團(tuán)伙1起，配合警方案件偵查工作4起，并獲贈(zèng)公安機(jī)關(guān)的感謝信和錦旗。
通過這些舉措，Soul展示了在維護(hù)網(wǎng)絡(luò)安全方面的堅(jiān)定決心，以積極行動(dòng)踐行了在保護(hù)用戶社交安全方面的承諾并取得了顯著成效。
完善社交禮儀 打造健康、友善的交往環(huán)境
一直以來，Soul始終致力于營(yíng)造一個(gè)健康、文明的社交環(huán)境，堅(jiān)決抵制任何形式的不文明行為。在本季度，平臺(tái)通過技術(shù)升級(jí)，顯著提高對(duì)廣場(chǎng)違規(guī)內(nèi)容的機(jī)器審核能力，可更加精準(zhǔn)地識(shí)別出低俗擦邊、攻擊辱罵、炫富以及軟性廣告引流等內(nèi)容，從而及時(shí)采取措施，維護(hù)社交環(huán)境的清朗。
此外，Soul還引入了基于設(shè)備維度的治理策略，對(duì)于短時(shí)間內(nèi)在同一設(shè)備上多次違規(guī)的賬號(hào)，平臺(tái)將采取設(shè)備封禁的措施，有效打擊違規(guī)行為。通過這些舉措，本季度，平臺(tái)累計(jì)識(shí)別處理各類違規(guī)帖子超80萬篇次，累計(jì)處理擦邊、騷擾、引戰(zhàn)、引流等低質(zhì)評(píng)論超50萬條。
在本季度，Soul教育用戶文明發(fā)言和遵守社區(qū)規(guī)范，相關(guān)內(nèi)容日均觸達(dá)超過1900名用戶，進(jìn)一步強(qiáng)化了用戶對(duì)網(wǎng)絡(luò)文明的認(rèn)識(shí)和參與度。多治理舉措外，在社區(qū)共建共治方面，Soul鼓勵(lì)用戶參與到社區(qū)管理中，截至2024年第三季度，站內(nèi)內(nèi)容推薦官在任用戶達(dá)3.3萬人，風(fēng)紀(jì)委在任用戶1萬人，他們積極參與平臺(tái)對(duì)爭(zhēng)議性動(dòng)態(tài)的評(píng)審工作，參與社區(qū)共建的用戶案件投票日均超過5萬起。
在私聊社交生態(tài)建設(shè)上，Soul同樣采取多種措施：騷擾消息自見策略日均保護(hù)超過1萬名用戶免遭信息騷擾;“消息盒子”功能輔助用戶日均收納消息超5000條;針對(duì)平臺(tái)用戶，Soul下發(fā)守護(hù)彈窗，日均觸達(dá)用戶超1.6萬人，主動(dòng)保護(hù)用戶的同時(shí)，也為他們營(yíng)造更加健康、友好的社交環(huán)境。
加強(qiáng)網(wǎng)絡(luò)暴力治理，向不文明社交說“不”
自2023年9月起，隨著最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》，到2024年6月國(guó)家互聯(lián)網(wǎng)信息辦公室出臺(tái)《網(wǎng)絡(luò)暴力信息治理規(guī)定》，抵制網(wǎng)絡(luò)暴力已成為政府和企業(yè)共同的堅(jiān)守。Soul作為社交平臺(tái)，積極響應(yīng)國(guó)家政策，通過技術(shù)創(chuàng)新和策略更新，不斷強(qiáng)化對(duì)站內(nèi)網(wǎng)絡(luò)暴力問題的打擊力度。
在本季度，Soul通過其平臺(tái)功能和用戶教育，大力推廣網(wǎng)絡(luò)文明，倡導(dǎo)用戶在私信交流中保持禮貌和尊重。平臺(tái)日均提醒引導(dǎo)私聊文明發(fā)言超21萬次，日均提醒用戶以友好方式發(fā)表評(píng)論1092次。為了營(yíng)造一個(gè)沒有網(wǎng)絡(luò)暴力的社區(qū)環(huán)境，Soul 鼓勵(lì)用戶積極參與抵制網(wǎng)絡(luò)暴力的行為。截至第三季度，超過26萬用戶簽署友善互動(dòng)聲明，這反映了Soul社區(qū)成員對(duì)于促進(jìn)積極網(wǎng)絡(luò)文化建設(shè)的廣泛支持。
除此之外，Soul平臺(tái)通過其官方賬號(hào)“風(fēng)紀(jì)球長(zhǎng)”發(fā)布69條關(guān)鍵通告，聚焦于平臺(tái)的生態(tài)安全。這些通告涵蓋了對(duì)發(fā)布低俗內(nèi)容、不實(shí)信息、惡意引戰(zhàn)等違規(guī)賬號(hào)的處罰公告，同時(shí)也包括了對(duì)平臺(tái)安全準(zhǔn)則和社交禮儀的推廣、對(duì)不實(shí)信息的辟謠等內(nèi)容。信息成功觸達(dá)116萬用戶，展現(xiàn)Soul在維護(hù)網(wǎng)絡(luò)文明和保障用戶安全方面的持續(xù)努力。
精準(zhǔn)識(shí)別未成年人，提供堅(jiān)實(shí)網(wǎng)絡(luò)安全保障
長(zhǎng)期以來，Soul平臺(tái)明確規(guī)定，不允許未成年人在平臺(tái)上注冊(cè)賬戶，并且對(duì)于極少數(shù)已經(jīng)注冊(cè)的未成年用戶，平臺(tái)會(huì)自動(dòng)切換到青少年模式。為了更精確地識(shí)別和保護(hù)未成年用戶，Soul平臺(tái)采用多重認(rèn)證機(jī)制，結(jié)合內(nèi)容分析、設(shè)備識(shí)別和用戶反饋等手段，顯著提升了對(duì)未成年用戶的檢測(cè)能力。
在本季度，Soul App推出了超過50項(xiàng)針對(duì)未成年用戶的識(shí)別和保護(hù)策略，相關(guān)策略在識(shí)別虛假成年人身份方面取得高達(dá)98.6%的成功率，證明其有效性和精確度。同時(shí)，平臺(tái)日均處置600余條可能危害未成年人的內(nèi)容，守護(hù)其網(wǎng)絡(luò)安全，助力健康成長(zhǎng)。Soul的這些努力不僅顯示了平臺(tái)在技術(shù)迭代和策略創(chuàng)新方面的能力，也體現(xiàn)了平臺(tái)對(duì)未成年人網(wǎng)絡(luò)安全的重視。
