近日,Soul App正式發布《2025生態安全半年報》(以下簡稱“報告”)。報告全面展現Soul App積極響應國家“清朗”系列專項行動號召的堅定決心,通過大量具體數據和創新舉措,詮釋了平臺如何通過技術創新、警企協作、社區共治等多維度策略,持續升級其生態安全體系,并取得顯著成效。

當前,社交平臺已成為人們日常溝通、表達自我、建立連接的重要場域。然而,在享受其帶來巨大便利的同時,社交平臺也面臨著日益嚴峻的挑戰,如網絡詐騙、低俗內容泛濫、網絡暴力侵擾等問題層出不窮,對用戶體驗和社會秩序構成了潛在威脅。在這樣的背景下,平臺治理的深度和廣度顯得尤為關鍵。

Soul App深刻認識到生態安全對于平臺可持續發展和用戶福祉的基石作用,因此始終將其置于戰略發展的核心位置。通過持續不斷的技術模型升級和一系列專項治理行動,Soul App致力于從根本上優化平臺環境,確保每一位用戶都能在清朗、健康的氛圍中安心交流。

AI反詐體系升級 全鏈條守護用戶安全

在當前網絡詐騙手段日益隱蔽和多樣化的背景下,Soul App持續加碼AI技術投入,對反詐防護體系進行了全方位、深層次的升級,成功構建了一套高效、智能的“識別-預警-攔截”全鏈條防御機制。這一體系旨在從源頭發現、及時預警、果斷攔截各類詐騙行為,最大限度地保障用戶的財產和信息安全。兩大核心技術模型——“圖片/文本反作弊大模型”和“殺豬盤發帖文案識別大模型”在安全鏈條中,發揮巨大作用。

兩大模型的協同投入使用,極大地提升了Soul App在面對文本變體、圖像偽裝等復雜多變場景下的識別精度。它們使得黑產分子想要繞過平臺風控識別的對抗成本顯著提高,從而有效遏制了詐騙行為的蔓延;同時,反詐官號接入AI反詐助手大模型,部分用戶回復交由大模型進行智能回復,提示用戶相關風險。

得益于這一系列的反詐舉措,Soul App平臺整體涉詐人群數量較此前實現了約20%的顯著下降。除了技術防線,Soul App還積極構建了與公安機關的緊密協作機制,形成了線上線下聯動的打擊網絡犯罪網絡。報告顯示,在過去半年中,Soul App與警方協同配合,取得了豐碩的成果:

??網絡謠言線索推送:?發現并推送網絡謠言線索50個。針對可能誤導公眾或損害他人名譽的謠言,平臺迅速識別并向警方報告,共同維護網絡信息真實性。

??黑灰產線索推送:?累計推送各類黑灰產線索25個,包括但不限于非法刷量、惡意營銷等黑色產業鏈線索,從源頭上打擊網絡犯罪。

??協助警方查明案件:?協助警方查明盜用照片、侵犯用戶權益的案件20余次。通過提供技術支持,幫助警方迅速鎖定違法分子,維護用戶合法權益。

??處理警方調證協作需求:?共計處理警方調證協作需求80余次。建立高效的響應機制,積極配合警方依法調取證據,確保案件偵辦的順利進行。

這些數據充分表明,Soul App不僅在技術層面筑牢了安全防線,更通過與執法機關的深度協作,形成了強大的社會協同治理合力,共同打擊網絡違法犯罪,為用戶打造了一個真正安全可靠的社交生態。

社交治理持續優化,共建清朗網絡空間

為了給廣大用戶營造一個文明、友善、積極向上的社交環境,Soul App持續在社交治理體系上發力,不斷完善其治理策略和技術手段。報告顯示,平臺新增了可以識別色情交易變體等違規行為的反作弊大模型,進一步提升了對新型違規行為的識別能力。同時,Soul App從用戶騷擾管制、群聊治理、低質內容管控、正能量內容推薦等多個方向,全方位、系統性地持續建設社交禮儀體系,致力于為廣大用戶提供一個輕松無壓力的社區場景氛圍。

在違規行為及低質內容治理方面,Soul App采取多管齊下的策略,并取得顯著成效:

??違規內容機審攔截量級932萬:?平臺通過AI技術對海量內容進行實時監測和識別,能夠在違規內容發布的第一時間進行自動化攔截,有效阻止不良信息的傳播;

??累計拉黑同設備下存在多個違規賬號2.1萬個:?針對“小號”泛濫、惡意注冊等行為,Soul App通過設備識別技術,對同一設備下存在的多個違規賬號進行批量拉黑,從源頭上打擊黑灰產團伙的作惡空間。

??教育用戶文明發言,累計觸達33.7萬用戶:?對于網絡社交規范,平臺注重“疏”和“導”——通過系統消息、彈窗提醒、社區公告等多種形式,積極引導用戶遵守社區規范,提升網絡文明素養。

??增加違規貼提示功能,引導用戶行為符合平臺規范:?平臺不僅告知用戶違規,還會附帶違規理由和站內用戶行為規則的解讀,幫助用戶理解并改正。

在群聊治理方面,Soul App針對群聊場景的特點,采取了精細化管理:

??日均中斷語音違規消息條數4萬+:?語音群聊是社交的重要形式,平臺通過語音識別技術,對違規語音消息進行實時中斷,并對發布此類內容的用戶進行專項處置。

??日均攔截違規文字消息條數2.7萬+:?文字消息同樣受到嚴格監控,確保群聊內容的合規性。

??日均梯度處罰違規用戶數1.7萬+:?針對群聊中的違規用戶,平臺會根據違規程度進行不同梯度的處罰,從輕微警告到永久封禁。

在私聊社交生態建設方面,Soul App的舉措旨在提升用戶私密交流的安全性與舒適度:

??季度上線/迭代策略36+:?平臺在私聊安全方面持續進行策略的更新和優化,以應對不斷變化的風險。

??騷擾消息自見策略日均保護2.3萬+用戶:?主動識別并處理騷擾消息,減少用戶被騷擾的困擾。

??消息盒子輔助用戶日均收納消息5k+:?幫助用戶更好地管理和過濾不重要的消息,提升私聊體驗。

重拳整治網絡暴力,超八成用戶感受環境改善

網絡暴力作為數字時代的一大社會公害,其隱蔽性、擴散性和傷害性日益凸顯。Soul App對此高度重視,建立“技術識別+人工審核+用戶教育”三位一體的全方位治理體系,旨在從源頭預防、過程中干預、事后懲戒和引導等多維度,全面遏制網絡暴力行為。

在技術識別層面,Soul App部署了AI內容識別系統。系統能夠對用戶發布的文字、圖片、語音等內容進行實時、精準的掃描和分析,自動識別出包含侮辱、誹謗、人身攻擊等網絡暴力傾向的內容。從而實現對涉網暴內容的快速預警和標記。

同時,Soul App完善用戶舉報機制,建立了便捷高效的舉報通道,鼓勵用戶積極參與到網絡暴力的監督和治理中來。用戶一旦發現網絡暴力行為,可以迅速通過舉報功能向平臺反饋;在用戶教育層面,Soul App深知“防患于未然”的重要性。平臺通過多種形式開展網絡文明宣傳,提升用戶的網絡素養和對網絡暴力的認知,包括:

??典型案例公示:?定期公布處理的網絡暴力典型案例,以案示警,讓用戶清晰了解平臺對此類行為的零容忍態度。

??防網暴指南推送:?推送實用的防網絡暴力指南,教授用戶如何識別、應對和舉報網絡暴力,及如何保護個人信息。

??社區共識推動:?通過線上活動、話題討論、官方賬號宣導等方式,積極推動形成“人人抵制網暴”的社區共識,營造互助友愛的社區氛圍。

綜合性措施的實施帶來了顯著的治理成效:

??日均保護用戶免遭網暴騷擾3956人:平臺的主動防御和干預機制,日均有效阻止近4000名用戶免受網絡暴力和惡意騷擾的侵害。

??日均處理私聊不文明行為用戶2146人:?私聊是網絡暴力的隱蔽發生地,平臺對此類行為的精準識別和處理,有效凈化了私密交流空間。

??日均提醒引導私聊文明發言211710次:?大量的善意提醒和引導,有助于培養用戶在私聊中的文明習慣,從源頭減少不文明行為的發生。

??累計433199人簽署友善互動聲明:?簽署友善互動聲明是用戶對文明社交的承諾,這一數據的持續增長,體現了用戶對平臺倡導的友善文化的積極響應和認同。

相關舉措的有效實施,不僅顯著凈化了網絡空間,更重要的是,超過八成的用戶在問卷調查中表示,他們明顯感受到了平臺環境的改善,社交體驗更加安全和愉悅。這正是Soul App致力于構建清朗網絡空間的最佳反饋。

AI護航未成年人,筑牢成長防護網

未成年人是互聯網的原住民,也是最需要重點保護的群體。Soul App始終將未成年人網絡安全保護視為平臺義不容辭的社會責任。平臺明確規定,不允許未成年人在平臺上注冊賬戶,從源頭上杜絕未成年人接觸不適宜內容。同時,對于極少數已經注冊的未成年用戶,平臺會自動識別并將其賬戶切換到青少年模式,提供專屬的保護環境。

為了更精確、更全面地識別和保護未成年用戶,Soul App構建了一套包括身份認證、年齡識別、18歲以下年齡限制、防沉迷系統、正能量內容池、隱私保護等在內的全方位未成年保護體系。本季度,平臺在這一體系中再次實現了重大突破——首次在識別鏈路中引入了AI大模型,以顯著提升識別精度與覆蓋廣度。

本次新引入的AI大模型,具備高度智能化的判斷能力,能夠有效判斷用戶的人設是否為未成年人,并進一步識別是否存在成年人“開玩笑偽裝”成未成年人的情況,從而極大減少了未成年人“漏放”帶來的風險。同時,它也有效避免了對成年用戶的誤封誤判,提升了整體識別準確率與用戶體驗,確保了保護措施的精準性和有效性。

報告中列舉的關鍵數據顯示了這一體系的強大效能:

??未成年識別和未成年保護策略共51條:體現Soul App在未成年人保護方面投入的精力和細致程度,涵蓋了從注冊、內容瀏覽、互動交流到時間管理等各個環節。

??策略識別假成年人貢獻率高達99%:?這一數據是新AI大模型在未成年保護領域取得的里程碑式成就。高達99%的貢獻率意味著絕大多數試圖偽裝成未成年人的成年用戶都能被精準識別,從而有效阻止了他們進入未成年人專屬的保護空間,極大地提升了未成年人模式的純凈度和安全性。

Soul App通過持續的技術創新和嚴格的策略執行,為未成年人筑起了一道堅實的網絡安全防護網,確保他們在平臺上的每一次互動都安全、健康、積極。

持續深耕生態安全,共創美好社交未來

《2025生態安全半年報》的發布,不僅是對平臺過去半年努力成果的總結,更是對未來責任的再次承諾。Soul App深知,網絡生態安全建設是一項長期而艱巨的任務,需要平臺持續投入、不斷創新。未來,Soul App將繼續秉持“用戶第一”的原則,將用戶安全和體驗放在首位。

持續加大在技術研發方面的投入,特別是深化AI、大數據等前沿技術在生態安全領域的應用,不斷提升風險識別和治理能力,與廣大用戶攜手,共同努力,不斷完善生態安全體系,為構建清朗、健康、有愛的網絡社交空間貢獻更多力量。