人民網
人民網>>四川頻道>>科技

AI換臉、跨平台引流 反詐防線如何“破壁升級”

2025年06月17日10:12 | 來源:中國青年報
小字號

原標題:AI換臉、跨平台引流 反詐防線如何“破壁升級”

  “‘客服’能准確報出我身份証前幾位,還催著要銀行卡號……”6月10日,作為反詐大使的演員朱時茂講述了自己曾遭遇電信詐騙的驚險一幕,引發現場觀眾的共鳴。

  當天,北京市委網信辦、北京市通信管理局、北京市反詐中心與抖音啟動“抖音反詐聯盟”線上活動,用戶可通過簽署倡議書、拍攝反詐科普視頻、參與直播間答題等方式參與反詐宣傳。

  北京市委網信辦副主任郭玉鬆會上表示,電信網絡詐騙是社會高度關注的焦點問題。當前,詐騙呈現技術智能化、組織產業化、鏈條跨境化特征,反詐面臨新挑戰。因此,要筑牢網站平台安全防線,強化技術賦能,增強公民反詐意識,形成治理合力,“反詐是系統工程,需要多部門協同多領域聯動,網信部門將繼續深化跨部門跨行業協作,健全長效機制”。

  騙子如何聯系上受害者?通信聯絡是關鍵環節。

  信息通信行業反詐中心專家崔現東表示,針對詐騙技術對抗升級(如利用AI深度偽造、大模型批量生成涉詐App)及犯罪新態勢,行業整合推出多項關鍵性技術治理工具,例如,首創App反詐電子標識認証,通過打“可信標簽”顯著遏制仿冒App詐騙,試點中涉案量最高降幅達九成﹔推廣“反詐名片”服務,為公安機關勸阻電話提供權威標識。目前,公安機關反詐電話日均提醒量55萬次。此外,精准打擊為詐騙提供通信支持的黑灰產設備。這些是信息通信行業筑牢反詐通信屏障、支撐“天下無詐”目標的核心力量。

  中國政法大學刑事司法學院教授謝澍表示,互聯網“互聯互通”的本質便利了人們的生活,也被一些專業化、模塊化的詐騙分子所利用。

  公安部刑偵局反詐專家鄭棉嘉介紹,“刷單返利”“虛假網貸”“虛假理財”“冒充公檢法”“冒充客服”是5類主要高發詐騙形式。在應對策略上,公安機關堅持“打擊(以打開路)、防范(源頭阻斷)、治理(清除行業風險)、宣傳(凝聚社會共識)”四位一體綜合發力,旨在通過多層次手段降低發案、遏制蔓延。

  近日,多地高考生家長收到冒充省級“教育考試院”發送的短信,聲稱“監測到考試違規行為需申訴”。此類精准利用高考節點、假冒官方身份實施的詐騙,引起社會廣泛關注。隨著高考、中考在6月相繼舉行,針對考生及家庭的所謂“招生錄取”“查分改分”“內部名額”等各類升學類詐騙,也進入高發期。

  抖音風控專家劉一方表示,平台在2025年監測到的詐騙手法呈現高度多樣化態勢,識別出超過100種不同類型的詐騙案例。這些詐騙手法表現出顯著的季節性變化規律,比如在夏季,以色情誘騙為由頭、誘導受害者進行虛假購物充值的詐騙類型,往往呈現高發態勢。

  謝澍指出,當前電信詐騙犯罪團伙不再是小規模“全包攬”,而是形成跨平台分工鏈條,在A平台精准引流,再將“潛在受害人”作為商品售賣給B平台上的實施團伙。犯罪分子利用平台間的信息差、時間差與監管差異實施犯罪,這一趨勢對跨平台協同治理提出了新要求。

  針對此類跨平台欺詐,劉一方表示,抖音風險治理團隊運用用戶文本、圖片、視頻等多維度信息,自研構建多模態大模型,在此基礎上搭建AI智能體,提升治理效率,並持續加強對用戶反詐提醒。目前,抖音每日封禁涉詐賬號超8萬個,有效攔截異常投稿/評論超400萬條,發送站內信提醒700萬條。

  平台技術人員發現,AI技術正被黑灰產濫用。詐騙者利用AI內容生成技術,批量產出高度逼真的文本、圖像甚至實施深度偽造(如換臉換聲),傳統識別模型難以應對。與此同時,黑灰產借助大模型能力,可在短時間內批量生成大量涉詐應用或虛假程序,提高欺詐的效率和迷惑性,給平台風控帶來嚴峻挑戰。

  北京市公安局東城分局刑偵支隊副支隊長張超在一線觀察到,詐騙目標人群呈現“全年齡段覆蓋”的新特點。實施“百萬保障”類騙局的詐騙分子,通過假冒“平台客服”身份,使受騙群體從老年人擴展至年輕人。

  抖音反欺詐專項負責人張瑩介紹,平台主要通過加強反詐提醒和宣傳、完善客服驗証工具幫助用戶抵抗風險。用戶可直接撥打抖音官方客服95152核實信息,還能在抖音App搜索“驗証助手”輸入相關內容核驗。2025年,抖音陸續新增“客服聯系記錄”“動態驗証口令”等功能。截至目前,抖音日均保護潛在受害人超5萬名。

  本次活動邀請朱時茂、董浩等8位創作者擔任抖音反詐大使,向公眾傳播反詐知識,提升用戶反詐意識。此外,北京、上海、四川、山東、河南、廣西等多地戶外大屏和地鐵、高鐵同步開展反詐宣傳。

  “平台將持續優化反詐技術、加強跨行業協作,並通過創新內容形式提升公眾防騙能力。”抖音集團副總裁張輔評表示,希望更多人了解、參與反詐工作,多方共建,共同筑牢網絡安全防線。

  北京市通信管理局網絡安全管理處副處長張志明表示,防范治理電信網絡詐騙是通信監管部門的法定職責和重要使命。北京通管局聯合公安、網信等部門提升反詐全鏈條打擊效能,“防范詐騙是一場持久戰、攻堅戰,需要政府監管、企業履責、行業自律和用戶參與同向發力”。

  (中青報·中青網見習記者 劉胤衡 記者 陳曉)

(責編:羅昱、章華維)

分享讓更多人看到

返回頂部