據(jù)新華社廣州6月8日電通過AI換臉和擬聲技術(shù)，10分鐘騙430萬元；AI虛擬人在聊天中篩選出受害者，人工接力實施詐騙……近期，多起宣稱利用AI技術(shù)實施詐騙的案件引發(fā)關(guān)注。
“新華視點”記者近日與公安部門核實確認(rèn)，“AI詐騙全國爆發(fā)”的消息不實，目前此類詐騙發(fā)案占比很低。但公安機關(guān)已注意到此犯罪新手法，將加大力度會同有關(guān)部門開展技術(shù)反制和宣傳防范。專家表示，隨著AI技術(shù)加速迭代，由于使用邊界不清晰，涉詐風(fēng)險正在積聚，需要高度警惕。
你會被親友的臉騙到嗎？
(資料圖片僅供參考)
近日，內(nèi)蒙古包頭警方通報一起利用AI實施詐騙的案件，福州市某公司法人代表郭先生10分鐘內(nèi)被騙430萬元。據(jù)通報，騙子通過AI換臉和擬聲技術(shù)，佯裝熟人實施詐騙。
該案披露后，不少報道稱需警惕“AI詐騙潮”到來，并曝光多起類似案件。如江蘇常州的小劉被騙子冒充其同學(xué)發(fā)語音、打視頻電話，小劉看到“真人”后信以為真，“借”了6000元給騙子。
一位被列入公安部專家?guī)斓拿窬嬖V記者，這類詐騙如果得手必須做到：收集到被換臉對象的個人身份信息、大量人臉圖片、語音素材，通過AI生成以假亂真的音視頻；竊取被換臉對象的微信號；充分掌握詐騙對象個人身份信息，熟悉其與被換臉對象的社會關(guān)系，綜合作案成本很高。公安機關(guān)研判，近期網(wǎng)上“AI換臉換聲詐騙在全國爆發(fā)”傳言不實，全國此類案件發(fā)生不到10起，但該動向值得高度關(guān)注。網(wǎng)上一鍵換臉功能的App、小程序有技術(shù)濫用風(fēng)險，需要加強技術(shù)防范反制等工作。
涉詐犯罪風(fēng)險正在積聚
“當(dāng)前AI技術(shù)發(fā)展來到螺旋式上升的拐點，未來幾年技術(shù)迭代將會按月計算?！毕愀劭萍即髮W(xué)（廣州）協(xié)理副校長、人工智能學(xué)域主任熊輝說。
工信部信息顯示，伴隨AI技術(shù)快速發(fā)展，合成技術(shù)門檻持續(xù)降低，逐漸向低算力、小樣本學(xué)習(xí)方向演進，利用手機終端即可完成，對算力和數(shù)據(jù)的要求下降明顯。同時，隨著AI大模型的技術(shù)加持，正逐步由面部合成向全身、3D合成發(fā)展，效果更加逼真。
值得關(guān)注的是，當(dāng)前AI技術(shù)不再是實驗室的半成品，引發(fā)熱議的“換臉”“擬音”技術(shù)已有較成熟的開源軟件，使用門檻低。
工信部相關(guān)負(fù)責(zé)人表示，隨著AI技術(shù)的不斷發(fā)展，通過少量圖片、音頻信息合成特定視頻，利用人工智能模型批量設(shè)計詐騙腳本等成為可能，客觀上降低了電信網(wǎng)絡(luò)詐騙的實施難度，AI類新型犯罪爆發(fā)可能性進一步提升。
盡快完善相關(guān)法規(guī)制度
業(yè)內(nèi)人士建議，要加強AI反制技術(shù)研究，“以AI制AI”。一些科技公司正加強對圖像、聲音偽造技術(shù)的反制研究，在公安、金融的視頻認(rèn)證場景已有應(yīng)用。有一線民警建議，要加強AI安全技術(shù)應(yīng)用研發(fā)，將AI技術(shù)應(yīng)用于犯罪識別、預(yù)警、對抗中，實現(xiàn)以“白”AI對抗“黑”AI。
其次，加強源頭治理和行業(yè)引導(dǎo)，及時更新、完善相關(guān)法律、標(biāo)準(zhǔn)、規(guī)則，為AI技術(shù)發(fā)展保駕護航。中國互聯(lián)網(wǎng)協(xié)會監(jiān)管支撐部主任郝智超建議，AI技術(shù)發(fā)展還要有相關(guān)法律法規(guī)來劃紅線、踩剎車。
工信部表示，下一步，將強化監(jiān)管執(zhí)法，積極會同網(wǎng)信、公安等部門，督促企業(yè)健全完善深度合成信息管理及技術(shù)保障措施；鼓勵技術(shù)攻關(guān)，凝聚產(chǎn)學(xué)研用各方力量，提升深度合成風(fēng)險技術(shù)防范能力；加強行業(yè)自律，建立健全深度合成技術(shù)相關(guān)行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和自律管理制度，督促指導(dǎo)深度合成服務(wù)提供者和技術(shù)支持者制定完善業(yè)務(wù)規(guī)范、依法開展業(yè)務(wù)和接受社會監(jiān)督。
關(guān)鍵詞：
前5個月大連經(jīng)濟運行延續(xù)穩(wěn)定恢復(fù)態(tài)勢|熱門看點
信用卡逾期會有什么影響?如果信用卡已經(jīng)逾期了怎么辦呢?
