5月24日,騰訊QQ發(fā)布2024第一季度QQ平臺生態(tài)治理公告。公告顯示,第一季度平臺累計打擊違規(guī)賬號411萬個,并重點整治涉網絡賭博、詐騙、未成年人負面影響的有害內容。
為給用戶打造清朗健康的網絡環(huán)境、安全可靠的使用體驗,25年來QQ持續(xù)通過技術手段、產品手段、運營手段的多維度升級,不斷鞏固平臺安全防御機制。2023年,基于QQNT重構,安全團隊協(xié)同騰訊多個安全實驗室全面加強各項核心安全能力,并持續(xù)加大對網絡黑灰產和不良信息的整治力度,進一步保障用戶權益,維護平臺生態(tài)秩序。
AI技術加持,更精準實現(xiàn)黑灰產打擊治理
互聯(lián)網產品所面臨的主要挑戰(zhàn)之一是網絡黑灰產的持續(xù)作惡。大數(shù)據(jù)、人工智能、區(qū)塊鏈等新技術、新業(yè)態(tài)的發(fā)展,也使得網絡黑產非法牟利的技術和手段不斷變形升級。
為了有效對抗黑灰產,在充分保障用戶隱私的情況下,QQ安全團隊利用安全大數(shù)據(jù)、社交圖計算、安全多模態(tài)大模型等手段構建了一套全方位的安全技術防御體系,實現(xiàn)上游嚴格管控黑灰產賬號資源、中游及時準確識別各類風險、下游精準打擊處置違規(guī)內容。
違規(guī)內容示例
據(jù)QQ安全團隊介紹,以違規(guī)內容識別打擊為例,借助大模型對通識和社交知識的學習積累和應用能力,QQ平臺能夠準確鑒別各類色情低俗內容。而針對“AI換臉”新型詐騙,QQ也已經儲備了異常環(huán)境檢測、風險賬號識別和異常操作分析等多重技術手段,一但出現(xiàn)此類風險可以對疑似被詐用戶下發(fā)提醒或直接攔截阻斷,保障用戶隱私和財產安全。
同時,QQ也根據(jù)不同用戶特點,在“加好友、加群、溝通、分享屏幕”等業(yè)務場景部署多重安全防護措施,通過安全彈框、狀態(tài)欄消息、公眾號推送等多種形式的安全提醒每天觸達約30余萬名用戶,及時有效提醒廣大用戶警惕網絡風險。
風險流量下降超過90%,QQ協(xié)議掛治理成效顯著
不久前,#小時候被盜的QQ終于有救了#一度登上話題熱搜,起因是有一網友分享了自己成功找回QQ的經驗。作為國內最早的即時通訊工具,QQ賬號是許多用戶的互聯(lián)網鑰匙,被廣泛應用于各個互聯(lián)網產品中,這也無形中放大了QQ賬號密碼泄露的風險,增加了QQ賬號安全工作的復雜性。
針對黑產作惡全鏈路的多個核心節(jié)點,QQ安全團隊基于QQNT全新的系統(tǒng)架構,全面加強各項核心安全能力,實時響應并自動化攔截突發(fā)異常,精準打擊黑流量,在用戶零感知情況下精細化處置各類風險,守護用戶數(shù)據(jù)資產安全。
據(jù)QQ安全團隊介紹,目前已經對“黑產自動化作惡工具、作惡號源批量生產、黑號解封復活操作、惡意流量曝光占位”等實現(xiàn)有效的持續(xù)性封堵攔截,特別是在QQ協(xié)議掛的治理上基本達成“團滅”的打擊效果。隨著新版QQ安全加固的落地,其針對所有端的協(xié)議都完成了自動化管理覆蓋,平臺整體風險流量相比2022年初下降超90%。
此外,在“賬號登錄、賬號異常風險提醒、賬號找回”等涉及用戶體驗層面,QQ也在持續(xù)優(yōu)化流程,保障用戶安全便捷操作。
賬號安全功能界面
青少年模式下實現(xiàn)內容分層,QQ未成年保護進一步升級
飛速發(fā)展的互聯(lián)網一方面拓展了未成年人學習、生活的空間,同時也引發(fā)了全社會對未成年人網絡保護問題的關注。早在2020年,QQ就率先上線了適合網課場景使用的“學習模式”,并在同年9月將“學習模式”全面升級為“青少年模式”。截至目前,QQ在“游戲娛樂”、“消費充值”、“廣告推送”、“短視頻內容”等方面進行80余次的持續(xù)優(yōu)化,全方位保護未成年人網絡安全。近期,QQ青少年模式新增了內容分級能力,幫助未成年人在不同年齡段觸達更適合的知識內容。
為給青少年用戶提供快捷、有效、有用的舉報能力,QQ特別增設了未成年人專屬快速舉報通道,并細化有害標簽,一方面指引用戶順利完成舉報,另一方面也確保平臺能以最快的速度核查處理涉未成年相關的舉報內容。同時,平臺舉報流程中還會為用戶提供快速報案指引,根據(jù)用戶地理位置為其提供最近的派出所信息及報警熱線。
未成年專屬舉報通道及報案指引
想要保護未成年用戶不受不良網絡信息的侵害,除了對平臺的技術產品和巡查處置能力提出要求,還需要進一步培養(yǎng)未成年用戶的風險識別意識與抵制能力?；诖?QQ充分考慮其興趣和成長需求,設置未成年人守護專區(qū),聯(lián)合內外創(chuàng)新打造多形式的網絡安全教育、人文科技知識科普內容和活動,并提供線上線下的專業(yè)幫助,為未成年人身心健康成長保駕護航。
線上線下安全教育
平臺安全是一項長期工作,QQ也將持續(xù)強化平臺責任擔當,提升平臺安全防護能力,持續(xù)治理違規(guī)行為和不良內容,營造良好的社區(qū)氛圍、保障用戶利益、提升用戶體驗。QQ安全團隊也呼吁廣大用戶如發(fā)現(xiàn)異常行為第一時間向平臺舉報,共同維護良好的網絡秩序。
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
