近日，Soul App（下簡稱“Soul”）生態(tài)安全中心發(fā)布《2024年第三季度生態(tài)安全報告》。報告顯示，2024年第三季度，Soul重點聚焦反電信網(wǎng)絡(luò)詐騙、優(yōu)化社交禮儀體系建設(shè)、防治網(wǎng)絡(luò)暴力、未成年保護(hù)四大用戶安全生態(tài)專項展開治理。
自今年以來，國家網(wǎng)信辦實施“清朗”系列專項行動，嚴(yán)厲打擊自媒體違規(guī)行為，整治網(wǎng)絡(luò)暴力、網(wǎng)絡(luò)水軍、網(wǎng)絡(luò)謠言以及直播和短視頻領(lǐng)域的混亂現(xiàn)象等網(wǎng)絡(luò)生態(tài)中的突出問題，相關(guān)行動嚴(yán)格處理違規(guī)平臺和賬號，取得明顯成效，有效震懾違規(guī)行為的同時，也促進(jìn)網(wǎng)絡(luò)環(huán)境的持續(xù)改善。
Soul積極響應(yīng)國家倡議，履行了其作為平臺的社會責(zé)任，主動探索并實施了針對網(wǎng)絡(luò)安全重點和常見問題的治理措施。特別是在打擊詐騙、低俗內(nèi)容、人身攻擊、炫耀財富和網(wǎng)絡(luò)暴力等方面，Soul取得了顯著的成果。
持續(xù)上線反詐新舉措 為用戶社交安全保駕護(hù)航
在保障用戶社交安全方面，Soul持續(xù)推出新的反詐舉措以應(yīng)對網(wǎng)絡(luò)詐騙的挑戰(zhàn)。在本季度，Soul進(jìn)行了多項技術(shù)與功能升級，提高用戶識別和防范詐騙的能力——
在第三季度，Soul對假人設(shè)識別能力進(jìn)行了迭代，通過技術(shù)手段提高對虛假身份的識別精度，從而保護(hù)用戶免受詐騙的侵害；平臺引入網(wǎng)絡(luò)乞討文本識別和提示功能，幫助用戶識別并避免網(wǎng)乞行為的騷擾；與此同時，平臺還新增發(fā)帖場景中的假圖風(fēng)險提醒功能，通過技術(shù)手段檢測用戶上傳的圖片是否真實，并提醒其他用戶注意圖片的真實性，有效防止虛假信息的傳播。
這些技術(shù)升級和功能革新，不僅幫助用戶提升反詐騙意識，同時也極大增強用戶在平臺上的安全感，在本季度，Soul 日均自動識別處理各類網(wǎng)乞相關(guān)內(nèi)容超1萬起，日均發(fā)出假圖風(fēng)險提醒約4千次。
Soul還與執(zhí)法機構(gòu)積極合作，通過平臺與警方的聯(lián)合行動，打擊詐騙、灰黑產(chǎn)等犯罪行為。在本季度，Soul 協(xié)助警方打擊黑產(chǎn)團(tuán)伙1起，配合警方案件偵查工作4起，并獲贈公安機關(guān)的感謝信和錦旗。
通過這些舉措，Soul展示了在維護(hù)網(wǎng)絡(luò)安全方面的堅定決心，以積極行動踐行了在保護(hù)用戶社交安全方面的承諾并取得了顯著成效。
完善社交禮儀 打造健康、友善的交往環(huán)境
一直以來，Soul始終致力于營造一個健康、文明的社交環(huán)境，堅決抵制任何形式的不文明行為。在本季度，平臺通過技術(shù)升級，顯著提高對廣場違規(guī)內(nèi)容的機器審核能力，可更加精準(zhǔn)地識別出低俗擦邊、攻擊辱罵、炫富以及軟性廣告引流等內(nèi)容，從而及時采取措施，維護(hù)社交環(huán)境的清朗。
此外，Soul還引入了基于設(shè)備維度的治理策略，對于短時間內(nèi)在同一設(shè)備上多次違規(guī)的賬號，平臺將采取設(shè)備封禁的措施，有效打擊違規(guī)行為。通過這些舉措，本季度，平臺累計識別處理各類違規(guī)帖子超80萬篇次，累計處理擦邊、騷擾、引戰(zhàn)、引流等低質(zhì)評論超50萬條。
在本季度，Soul教育用戶文明發(fā)言和遵守社區(qū)規(guī)范，相關(guān)內(nèi)容日均觸達(dá)超過1900名用戶，進(jìn)一步強化了用戶對網(wǎng)絡(luò)文明的認(rèn)識和參與度。多治理舉措外，在社區(qū)共建共治方面，Soul鼓勵用戶參與到社區(qū)管理中，截至2024年第三季度，站內(nèi)內(nèi)容推薦官在任用戶達(dá)3.3萬人，風(fēng)紀(jì)委在任用戶1萬人，他們積極參與平臺對爭議性動態(tài)的評審工作，參與社區(qū)共建的用戶案件投票日均超過5萬起。
在私聊社交生態(tài)建設(shè)上，Soul同樣采取多種措施：騷擾消息自見策略日均保護(hù)超過1萬名用戶免遭信息騷擾；“消息盒子”功能輔助用戶日均收納消息超5000條；針對平臺用戶，Soul下發(fā)守護(hù)彈窗，日均觸達(dá)用戶超1.6萬人，主動保護(hù)用戶的同時，也為他們營造更加健康、友好的社交環(huán)境。
加強網(wǎng)絡(luò)暴力治理，向不文明社交說“不”
自2023年9月起，隨著最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》，到2024年6月國家互聯(lián)網(wǎng)信息辦公室出臺《網(wǎng)絡(luò)暴力信息治理規(guī)定》，抵制網(wǎng)絡(luò)暴力已成為政府和企業(yè)共同的堅守。Soul作為社交平臺，積極響應(yīng)國家政策，通過技術(shù)創(chuàng)新和策略更新，不斷強化對站內(nèi)網(wǎng)絡(luò)暴力問題的打擊力度。
在本季度，Soul通過其平臺功能和用戶教育，大力推廣網(wǎng)絡(luò)文明，倡導(dǎo)用戶在私信交流中保持禮貌和尊重。平臺日均提醒引導(dǎo)私聊文明發(fā)言超21萬次，日均提醒用戶以友好方式發(fā)表評論1092次。為了營造一個沒有網(wǎng)絡(luò)暴力的社區(qū)環(huán)境，Soul 鼓勵用戶積極參與抵制網(wǎng)絡(luò)暴力的行為。截至第三季度，超過26萬用戶簽署友善互動聲明，這反映了Soul社區(qū)成員對于促進(jìn)積極網(wǎng)絡(luò)文化建設(shè)的廣泛支持。
除此之外，Soul平臺通過其官方賬號“風(fēng)紀(jì)球長”發(fā)布69條關(guān)鍵通告，聚焦于平臺的生態(tài)安全。這些通告涵蓋了對發(fā)布低俗內(nèi)容、不實信息、惡意引戰(zhàn)等違規(guī)賬號的處罰公告，同時也包括了對平臺安全準(zhǔn)則和社交禮儀的推廣、對不實信息的辟謠等內(nèi)容。信息成功觸達(dá)116萬用戶，展現(xiàn)Soul在維護(hù)網(wǎng)絡(luò)文明和保障用戶安全方面的持續(xù)努力。
精準(zhǔn)識別未成年人，提供堅實網(wǎng)絡(luò)安全保障
長期以來，Soul平臺明確規(guī)定，不允許未成年人在平臺上注冊賬戶，并且對于極少數(shù)已經(jīng)注冊的未成年用戶，平臺會自動切換到青少年模式。為了更精確地識別和保護(hù)未成年用戶，Soul平臺采用多重認(rèn)證機制，結(jié)合內(nèi)容分析、設(shè)備識別和用戶反饋等手段，顯著提升了對未成年用戶的檢測能力。
在本季度，Soul App推出了超過50項針對未成年用戶的識別和保護(hù)策略，相關(guān)策略在識別虛假成年人身份方面取得高達(dá)98.6%的成功率，證明其有效性和精確度。同時，平臺日均處置600余條可能危害未成年人的內(nèi)容，守護(hù)其網(wǎng)絡(luò)安全，助力健康成長。Soul的這些努力不僅顯示了平臺在技術(shù)迭代和策略創(chuàng)新方面的能力，也體現(xiàn)了平臺對未成年人網(wǎng)絡(luò)安全的重視。
