通過 AI 換臉和擬聲技術，10 分鐘騙 430 萬元；AI 虛擬人在聊天中篩選出受害者，人工接力實施詐騙 …… 近期，多起宣稱利用 AI 技術實施詐騙的案件引發關注。

記者近日與公安部門核實確認，"AI 詐騙全國爆發 " 的消息不實，目前此類詐騙發案占比很低。但公安機關已注意到此犯罪新手法，將加大力度會同有關部門開展技術反制和宣傳防范。

專家表示，隨著 AI 技術加速迭代，由于使用邊界不清晰，涉詐風險正在積聚，需要高度警惕。

(相關資料圖)

" 換臉 " 式詐騙引發焦慮：你會被親友的臉騙到嗎？

近日，內蒙古包頭警方通報一起利用 AI 實施詐騙的案件，福州市某公司法人代表郭先生 10 分鐘內被騙 430 萬元。據通報，騙子通過 AI 換臉和擬聲技術，佯裝熟人實施詐騙。

該案披露后，不少報道稱需警惕 "AI 詐騙潮 " 到來，并曝光多起類似案件。如江蘇常州的小劉被騙子冒充其同學發語音、打視頻電話，小劉看到 " 真人 " 后信以為真，" 借 " 了 6000 元給騙子。

那么，"AI 詐騙潮 " 是否真的到來了？

記者調查了解到，AI 在技術上確實能做到換臉、擬音，但被用來進行 " 廣撒網 " 式詐騙需要具備很多條件。

一位被列入公安部專家庫的民警告訴記者，這類詐騙如果得手必須做到：收集到被換臉對象的個人身份信息、大量人臉圖片、語音素材，通過 AI 生成以假亂真的音視頻；竊取被換臉對象的微信號；充分掌握詐騙對象個人身份信息，熟悉其與被換臉對象的社會關系，綜合作案成本很高。

他認為：" 相關報道對一些案件的典型細節描述不夠準確。AI 涉詐案件仍屬零星發案狀態。" 他說，成熟的類型化詐騙犯罪往往具有在全國多地集中爆發的特點，但當前沒有成規模的 AI 詐騙類案件發生。

公安機關研判，近期網上 "AI 換臉換聲詐騙在全國爆發 " 傳言不實，全國此類案件發生不到 10 起，但該動向值得高度關注。網上一鍵換臉功能的 App、小程序有技術濫用風險，需要加強技術防范反制等工作。

AI 進入快速迭代期，涉詐犯罪風險正在積聚

" 當前 AI 技術發展來到螺旋式上升的拐點，未來幾年技術迭代將會按月計算。" 香港科技大學（廣州）協理副校長、人工智能學域主任熊輝說。

工信部信息顯示，伴隨 AI 技術快速發展，合成技術門檻持續降低，逐漸向低算力、小樣本學習方向演進，利用手機終端即可完成，對算力和數據的要求下降明顯。同時，隨著 AI 大模型的技術加持，正逐步由面部合成向全身、3D 合成發展，效果更加逼真。

國家開發投資集團特級專家、廈門美亞柏科 AI 研發中心總經理趙建強表示，AI 技術正加速向網絡詐騙、虛假信息、色情等領域滲透。如在一些網絡平臺上假冒明星、公眾人物生成視頻圖像，吸引網民。此外，AI 技術也可能被用來規模化地實施違法犯罪，如批量、自動維護網絡賬號，發送虛假信息，模擬人工在線聊天等。

值得關注的是，當前 AI 技術不再是實驗室的半成品，引發熱議的 " 換臉 "" 擬音 " 技術已有較成熟的開源軟件，使用門檻低。

記者注意到，網絡上不乏 AI 換臉教程。在國內某知名 App 上輸入 " 換臉 "，彈出的高頻檢索記錄顯示有 " 換臉軟件 "" 換臉 App 免費 "" 換臉視頻怎么做 "" 換臉算法 " 等。一條名為 " 史上最強 AI 換臉軟件正式上線了！技術門檻大大降低 " 的鏈接，介紹了一款換臉軟件，通過視頻演示教程，手把手教授如何使用。

" 老話說‘眼見為實’，但今后眼睛看到的也不一定是真實的。" 北京市天元律師事務所合伙人楊虎城表示，未來涉及 AI 合成技術的詐騙、敲詐勒索等違法犯罪和肖像、名譽等民事侵權問題可能逐步顯現。

" 從現有案例看，這些技術已被不法分子利用。如假冒明星換臉直播、一鍵脫衣、造謠、制作色情視頻等。雖然 AI 詐騙案件未成氣候，但這一趨勢值得關注，必須提早防范。" 一位反詐民警說。

工信部相關負責人表示，隨著 AI 技術的不斷發展，通過少量圖片、音頻信息合成特定視頻，利用人工智能模型批量設計詐騙腳本等成為可能，客觀上降低了電信網絡詐騙的實施難度，AI 類新型犯罪爆發可能性進一步提升。

盡快完善相關法規制度，為 AI 技術發展立規劃線

中國移動信息安全中心品質管理處副處長周晶告訴記者，近年來，國際國內各界在積極探索深度合成技術的有效治理路徑，研判 AI 技術給社會帶來的風險和潛在威脅，正設法將 AI 技術發展納入一定規則中，做到安全可控。

業內人士建議，要加強 AI 反制技術研究，" 以 AI 制 AI"。一些科技公司正加強對圖像、聲音偽造技術的反制研究，在公安、金融的視頻認證場景已有應用。有一線民警建議，要加強 AI 安全技術應用研發，將 AI 技術應用于犯罪識別、預警、對抗中，實現以 " 白 "AI 對抗 " 黑 "AI。

其次，加強源頭治理和行業引導，及時更新、完善相關法律、標準、規則，為 AI 技術發展保駕護航。

" 數據是 AI 犯罪的源頭，保護好公民的個人隱私數據安全，就能在最大程度上降低 AI 違法犯罪的能力。" 熊輝說。

中國互聯網協會監管支撐部主任郝智超建議，AI 技術發展還要有相關法律法規來劃紅線、踩剎車。需進一步加強對個人隱私數據泄露問題的關注，明確信息監管紅線，對 AI 技術的研發、傳播、使用做到有規可循，并根據技術發展實際情況，及時完善對技術服務商行為的規范引導。

此外，還要有針對性地加強反詐宣傳。熊輝表示，未來 AI 可根據大數據創造出無比接近真實的 " 真實 "。" 要通過不斷的教育改變大眾觀念，讓人知道眼見不一定為實，有圖不一定有真相，提升對網絡信息的辨識力。" 他說。

公安部有關負責人表示，當前，詐騙集團利用區塊鏈、虛擬貨幣、遠程操控、共享屏幕等新技術新業態，不斷更新升級犯罪工具，與公安機關在通訊網絡和轉賬洗錢等方面的攻防對抗不斷加劇升級。公安機關會同相關部門與詐騙分子斗智斗勇，不斷研究調整打擊防范措施，確保始終保持主動權。

工信部表示，下一步，將強化監管執法，積極會同網信、公安等部門，督促企業健全完善深度合成信息管理及技術保障措施；鼓勵技術攻關，凝聚產學研用各方力量，提升深度合成風險技術防范能力；加強行業自律，建立健全深度合成技術相關行業標準、行業準則和自律管理制度，督促指導深度合成服務提供者和技術支持者制定完善業務規范、依法開展業務和接受社會監督。