近日,Soul App生態(tài)安全中心正式發(fā)布《2024年第四季度生態(tài)安全報(bào)告》。作為國(guó)內(nèi)領(lǐng)先的社交平臺(tái),Soul App一直以來(lái)積極響應(yīng)國(guó)家網(wǎng)信辦的“清朗”行動(dòng)號(hào)召,致力于營(yíng)造一個(gè)真實(shí)、友善、溫暖的社交環(huán)境。此次發(fā)布的報(bào)告詳細(xì)展示了平臺(tái)在過(guò)去一個(gè)季度中,在反詐防線筑牢、社交禮儀重塑、網(wǎng)絡(luò)暴力治理等多方面的扎實(shí)舉措與顯著成果,彰顯了Soul App在維護(hù)網(wǎng)絡(luò)生態(tài)安全方面的決心與擔(dān)當(dāng)。
一、多管齊下,筑牢反詐防線
網(wǎng)絡(luò)詐騙一直是威脅用戶財(cái)產(chǎn)安全與網(wǎng)絡(luò)安全的重要隱患。在年末這一網(wǎng)絡(luò)詐騙易發(fā)時(shí)段,Soul App深知反詐工作的緊迫性與重要性,從技術(shù)、策略、警企合作等多方面入手,全力守護(hù)用戶的財(cái)產(chǎn)安全。
在技術(shù)層面,Soul App持續(xù)發(fā)力,增加反詐風(fēng)控策略,迭代網(wǎng)絡(luò)詐騙文本識(shí)別模型和假人設(shè)識(shí)別能力。通過(guò)構(gòu)建高度智能化的技術(shù)模型,平臺(tái)能夠精準(zhǔn)識(shí)別各類詐騙行為,并結(jié)合巧妙設(shè)計(jì)的提示策略,及時(shí)向用戶發(fā)出預(yù)警。同時(shí),Soul App積極與警方合作,主動(dòng)提供線索,協(xié)助警方打擊黑產(chǎn)4次,配合警方調(diào)證24次,為打擊網(wǎng)絡(luò)詐騙犯罪提供了有力支持。
經(jīng)過(guò)長(zhǎng)期治理,Soul App在反詐方面取得了顯著成果。報(bào)告顯示,平臺(tái)網(wǎng)絡(luò)詐騙舉報(bào)量級(jí)降低了20%,假圖識(shí)別量級(jí)提升了150%,準(zhǔn)確率達(dá)到90%。這些數(shù)據(jù)背后,是Soul App對(duì)用戶安全的高度重視和不懈努力,也是平臺(tái)技術(shù)實(shí)力與治理能力的有力體現(xiàn)。
二、重塑社交禮儀,營(yíng)造文明氛圍
社交禮儀是構(gòu)建和諧社交環(huán)境的重要基石。為了給用戶營(yíng)造一個(gè)文明、友善的社交環(huán)境,Soul App在2024年持續(xù)發(fā)力,從用戶騷擾管制、群聊治理、低質(zhì)內(nèi)容管控、正能量?jī)?nèi)容推薦等不同方向,全方位、系統(tǒng)性地建設(shè)社交禮儀體系。
在第四季度,平臺(tái)上線和迭代了30多項(xiàng)策略,騷擾消息自見(jiàn)策略日均保護(hù)超過(guò)1.5萬(wàn)名用戶,消息盒子輔助用戶日均收納消息超過(guò)5千條。針對(duì)疑似被騷擾的用戶,平臺(tái)日均下發(fā)守護(hù)彈窗超4萬(wàn)條,主動(dòng)保護(hù)用戶免受騷擾。同時(shí)引導(dǎo)用戶文明發(fā)言,遵守社區(qū)規(guī)范,相關(guān)內(nèi)容日均觸達(dá)1904名用戶。
在廣場(chǎng)治理方面,Soul App通過(guò)違規(guī)內(nèi)容機(jī)審,直接攔截了436萬(wàn)條違規(guī)內(nèi)容,對(duì)于同設(shè)備下存在多個(gè)違規(guī)賬號(hào)的情況,平臺(tái)將進(jìn)行拉黑設(shè)備處理。在有償交友專項(xiàng)治理中,Soul App累計(jì)處理不良內(nèi)容139885條,處置違規(guī)賬號(hào)8587個(gè)。這些舉措有效遏制了不良交友導(dǎo)向的內(nèi)容傳播,保護(hù)了用戶的合法權(quán)益。
社區(qū)共建共治也是Soul App重塑社交禮儀的重要一環(huán)。平臺(tái)設(shè)立了站內(nèi)內(nèi)容推薦官和風(fēng)紀(jì)委等角色,目前分別有4.3萬(wàn)名和1.8萬(wàn)名用戶在任。這些用戶積極參與社區(qū)治理,通過(guò)投票等方式參與社區(qū)共建,日均投票案件超過(guò)3.2萬(wàn)起。這種用戶參與的治理模式,不僅增強(qiáng)了用戶的社區(qū)歸屬感,也提升了平臺(tái)治理的效率和公正性。
通過(guò)這些全方位的治理措施,Soul App成功營(yíng)造了一個(gè)文明、友善的社交環(huán)境,讓用戶在平臺(tái)上能夠更加輕松、愉快地交流互動(dòng)。
三、驅(qū)散網(wǎng)絡(luò)戾氣,打造友善社區(qū)
網(wǎng)絡(luò)暴力是近年來(lái)嚴(yán)重影響網(wǎng)絡(luò)生態(tài)健康發(fā)展的突出問(wèn)題。它不僅給當(dāng)事人帶來(lái)了極大的身心傷害,也破壞了網(wǎng)絡(luò)空間的和諧氛圍。Soul App深刻認(rèn)識(shí)到網(wǎng)絡(luò)暴力的危害,積極響應(yīng)國(guó)家相關(guān)政策要求,全力投入到網(wǎng)絡(luò)戾氣治理工作中。
為了有效治理網(wǎng)絡(luò)暴力,Soul App構(gòu)建了一套由技術(shù)模型、提醒策略、產(chǎn)品更新、宣傳引導(dǎo)、專項(xiàng)治理、典型案例處置公示等多維度構(gòu)成的嚴(yán)密防網(wǎng)暴體系。在技術(shù)模型層面,平臺(tái)依托先進(jìn)的人工智能與大數(shù)據(jù)分析技術(shù),對(duì)用戶發(fā)布的內(nèi)容、評(píng)論以及互動(dòng)行為進(jìn)行實(shí)時(shí)監(jiān)測(cè)與深度分析,精準(zhǔn)識(shí)別潛在的網(wǎng)暴風(fēng)險(xiǎn)。
在提醒策略上,Soul App通過(guò)站內(nèi)信、彈窗等多種形式,及時(shí)向用戶發(fā)出預(yù)警,引導(dǎo)用戶文明發(fā)言。報(bào)告顯示,平臺(tái)日均保護(hù)用戶避免遭受網(wǎng)暴與頻繁騷擾2911人,日均處理私聊不文明行為用戶1219人,日均提醒引導(dǎo)私聊文明發(fā)言超21萬(wàn)次。截止第四季度,累計(jì)簽署友善互動(dòng)聲明的用戶達(dá)24萬(wàn)人。
這些數(shù)據(jù)表明,Soul App在網(wǎng)絡(luò)暴力治理方面取得了顯著成效。通過(guò)技術(shù)手段與人文關(guān)懷相結(jié)合的方式,平臺(tái)成功驅(qū)散了網(wǎng)絡(luò)戾氣,為用戶打造了一個(gè)友善的交流空間。
為了進(jìn)一步提升用戶的網(wǎng)絡(luò)安全意識(shí)和社交禮儀素養(yǎng),Soul App在第四季度加強(qiáng)了網(wǎng)絡(luò)治理與社交禮儀規(guī)范的宣導(dǎo)工作。平臺(tái)官方“風(fēng)紀(jì)球長(zhǎng)”發(fā)布了58篇帖子,內(nèi)容包括對(duì)傳播低俗內(nèi)容與不實(shí)信息、惡意引戰(zhàn)等違規(guī)賬號(hào)的處罰公示,以及對(duì)安全標(biāo)準(zhǔn)及社交禮儀規(guī)范的宣導(dǎo)、辟謠等。這些帖子總計(jì)觸達(dá)231萬(wàn)用戶,有效提升了用戶對(duì)網(wǎng)絡(luò)安全和社交禮儀的認(rèn)知。
通過(guò)這些宣導(dǎo)活動(dòng),Soul App不僅讓用戶更加了解平臺(tái)的規(guī)則和標(biāo)準(zhǔn),也引導(dǎo)用戶自覺(jué)遵守社交禮儀,共同維護(hù)良好的網(wǎng)絡(luò)生態(tài)。這種積極的宣導(dǎo)方式,不僅有助于解決當(dāng)前的問(wèn)題,更從長(zhǎng)遠(yuǎn)角度提升了用戶的網(wǎng)絡(luò)素養(yǎng),為構(gòu)建健康、有序的網(wǎng)絡(luò)社交環(huán)境奠定了堅(jiān)實(shí)基礎(chǔ)。
四、展望未來(lái),持續(xù)守護(hù)網(wǎng)絡(luò)生態(tài)
Soul App在2024年第四季度的生態(tài)安全工作取得了顯著成效,但這僅僅是平臺(tái)守護(hù)網(wǎng)絡(luò)生態(tài)的一個(gè)階段性成果。未來(lái),Soul App將繼續(xù)秉持對(duì)用戶負(fù)責(zé)、對(duì)社會(huì)負(fù)責(zé)的態(tài)度,持續(xù)加強(qiáng)平臺(tái)治理,不斷提升技術(shù)實(shí)力,優(yōu)化治理策略,深化警企合作,進(jìn)一步完善社交禮儀體系,加強(qiáng)網(wǎng)絡(luò)暴力治理,強(qiáng)化安全生態(tài)宣傳。
Soul App相信,通過(guò)不懈努力,平臺(tái)能夠?yàn)橛脩籼峁┮粋€(gè)更加安全、友善、溫暖的社交環(huán)境,同時(shí)也為整個(gè)互聯(lián)網(wǎng)行業(yè)的健康發(fā)展貢獻(xiàn)更多力量。
