原標(biāo)題：防不勝防!小伙被AI換臉的“表哥”騙走30萬 網(wǎng)友直呼太可怕了
隨著AI換臉、換聲的視頻在網(wǎng)絡(luò)社交平臺(tái)上日漸流行，給人們帶來新體驗(yàn)的同時(shí)，也被不法分子所利用。近日，山東省濟(jì)南市商河縣公安局刑警大隊(duì)破獲了一起利用AI換臉技術(shù)詐騙的典型案件。
“今年5月份，黃某某(化名)在家刷短視頻時(shí)收到了一條私信，對(duì)方自稱是黃某某的表哥，寒暄幾句取得黃某某初步信任后，對(duì)方又讓黃某某添加了其QQ號(hào)。”偵辦此案的商河縣公安局刑警大隊(duì)三中隊(duì)中隊(duì)長張振華告訴海報(bào)新聞(報(bào)料郵箱：368064845@qq.com)記者，黃某某的表哥由于在體制內(nèi)工作，因此對(duì)方以自己身份不便為由，希望黃某某幫自己給一個(gè)需要資金周轉(zhuǎn)的朋友，轉(zhuǎn)一筆大額資金。
為了表示誠意，“表哥”索要了黃某某的銀行卡號(hào)，并稱先讓朋友給黃某某轉(zhuǎn)款后，再讓黃某某轉(zhuǎn)出。很快，黃某某就收到了對(duì)方發(fā)來的“轉(zhuǎn)賬憑證”，雖然看到了“轉(zhuǎn)賬憑證”，但黃某某并沒有收到這筆轉(zhuǎn)款，因此沒有立即幫“表哥”轉(zhuǎn)賬。
嫌疑人發(fā)送的轉(zhuǎn)賬憑證
“因?yàn)榻?jīng)過我們的反詐宣傳，對(duì)于冒充熟人詐騙的案例，黃某某比較了解，他有一定的警惕性。”張振華說，大約過了20分鐘，“表哥”再次發(fā)消息給黃某某，并稱大額轉(zhuǎn)款到賬會(huì)有延遲，目前急需這筆錢，黃某某能否先行墊付一下。
黃某某隨后與“表哥”進(jìn)行了視頻通話，黃某某見到視頻中的人和表哥一模一樣，不過對(duì)方聲音比較低，大約十幾秒后，對(duì)方稱有會(huì)議便掛斷了視頻通話。
黃某某確信了對(duì)方身份后，于是向?qū)Ψ教峁┑你y行賬戶轉(zhuǎn)了30余萬元。收到這筆錢后，對(duì)方還繼續(xù)催促黃某某轉(zhuǎn)出剩余的欠款。就在黃某某繼續(xù)籌集資金的過程中，黃某某發(fā)現(xiàn)起初添加自己的短視頻賬號(hào)已經(jīng)顯示被封禁，他急忙給表哥打去電話核實(shí)，才知道其表哥對(duì)此事毫不知情。意識(shí)到受騙的黃某某立即報(bào)警。
嫌疑人的詐騙話術(shù)
警方根據(jù)嫌疑人與黃某某網(wǎng)聊時(shí)的IP地址，判定該團(tuán)伙在境外實(shí)施詐騙，由國內(nèi)銷贓洗錢，是一起采用AI技術(shù)換臉、冒充受害者熟人進(jìn)行點(diǎn)對(duì)點(diǎn)網(wǎng)絡(luò)詐騙的案件。商河警方通過技術(shù)手段偵查，兩次前往廣東東莞，抓獲犯罪嫌疑人7人，目前此案已進(jìn)入法院審判階段。
張振華表示，在案件的偵破過程中，他們曾咨詢過不少技術(shù)人員，這種實(shí)時(shí)通話的視頻合成技術(shù)難度比較大，一般的小公司很難實(shí)現(xiàn)，但即便如此，這種詐騙手段仍然可以防范。
“因?yàn)榇祟怉I合成技術(shù)的視頻通話時(shí)間一般都相對(duì)較短，犯罪嫌疑人擔(dān)心通話時(shí)間過長會(huì)露出破綻，人臉一旦變化位置或者外圍環(huán)境發(fā)生變化，都可能會(huì)使犯罪嫌疑人恢復(fù)原貌。”張振華告訴記者，對(duì)于普通群眾而言，一是要注意保護(hù)個(gè)人隱私信息，其次遇到熟人或親戚借錢時(shí)，要及時(shí)與對(duì)方進(jìn)行電話溝通，視頻通話時(shí)可以讓對(duì)方做出固定的手勢或?qū)γ娌窟M(jìn)行遮擋，查看是否有變化，以此判斷對(duì)方身份的真假。
AI詐騙形式
另外據(jù)中國之聲報(bào)道，民警陳歆怡曾辦理過多起倒賣、非法利用用戶人臉照片的侵公案件，她表示AI換臉換聲的基本邏輯是通過深度學(xué)習(xí)特定算法，將目標(biāo)人物的人臉、表情、聲音等嫁接進(jìn)模仿的視頻中，成本低、合成速率高、檢測鑒別難度大，一般人很難發(fā)現(xiàn)偽裝痕跡。目前，AI詐騙主要有兩種形式：
第一種是通過技術(shù)手段合成換臉、換聲的視頻或語音，在視頻聊天、普通電話中直接播放。這種詐騙主要出現(xiàn)于比較緊急的情況，如遭遇事故求助等，播放結(jié)束后就會(huì)中斷連接，無法與被害人形成回合性對(duì)話。另一種是在視頻通話中直接換臉并替換聲音，或直接換聲撥打電話。
民警提示，以上兩種詐騙方式都受限于樣本數(shù)量，所以可以通過延長通話時(shí)間、多次進(jìn)行提問的方式讓對(duì)方多說話，露出破綻。
如何預(yù)防AI詐騙
如何預(yù)防此類詐騙案件的發(fā)生？2022年，網(wǎng)信辦、工信部和公安部制定的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，深度合成服務(wù)者應(yīng)采取技術(shù)或人工方式對(duì)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核。今年8月，網(wǎng)信辦發(fā)布的《人臉識(shí)別技術(shù)應(yīng)用安全管理規(guī)定（試行）（征求意見稿）》明確，人臉識(shí)別技術(shù)使用者應(yīng)每年對(duì)圖像采集設(shè)備、個(gè)人身份識(shí)別設(shè)備的安全性和可能存在的風(fēng)險(xiǎn)進(jìn)行檢測評(píng)估，采取有效措施保護(hù)圖像采集設(shè)備、個(gè)人身份識(shí)別設(shè)備免受攻擊、侵入、干擾和破壞。北京航空航天大學(xué)法學(xué)院副教授趙精武表示，相關(guān)部門加強(qiáng)監(jiān)管的同時(shí)，也需要公眾自身樹立起良好的防詐騙意識(shí)。“涉及到轉(zhuǎn)賬等財(cái)務(wù)信息的電話請(qǐng)求，采取其他方式跟好友進(jìn)行確認(rèn)。”
民警進(jìn)一步強(qiáng)調(diào)，要想從源頭上預(yù)防此類詐騙案件的發(fā)生，保護(hù)好個(gè)人信息是關(guān)鍵：
不要隨意接聽陌生電話，防止詐騙人員以電銷推廣等借口采集發(fā)音、語句；避免在個(gè)人互聯(lián)網(wǎng)社交賬戶上過多暴露個(gè)人照片、聲音、視頻等信息；對(duì)外提供人臉照片時(shí)需謹(jǐn)慎對(duì)待；使用小眾軟件進(jìn)行身份認(rèn)證、網(wǎng)絡(luò)貸款實(shí)名放貸時(shí)需提高警惕；不要隨意點(diǎn)擊陌生鏈接，鏈接中的木馬程序會(huì)竊取用戶手機(jī)內(nèi)的照片、監(jiān)聽回傳通話內(nèi)容；開啟定位服務(wù)、輸入身份證號(hào)、錄入人臉識(shí)別信息、指紋識(shí)別信息等個(gè)人生物信息時(shí)，一定要慎之又慎。
此外，民警表示，各APP網(wǎng)絡(luò)服務(wù)提供者在收集、使用個(gè)人信息時(shí)應(yīng)遵循合法、正當(dāng)、必要、公開的原則，不得收集與其提供的服務(wù)無關(guān)的個(gè)人信息，應(yīng)當(dāng)采取技術(shù)措施和其他必要措施，確保其收集的個(gè)人信息安全，不得主動(dòng)向外提供，也要防止信息泄露、毀損、丟失。
如何實(shí)現(xiàn)安全和便捷兼?zhèn)涞腁I驗(yàn)證模式？對(duì)此，趙精武認(rèn)為，二者的平衡有探討的空間。“需要結(jié)合AI技術(shù)的發(fā)展動(dòng)向進(jìn)行同步調(diào)整，也需要服務(wù)提供者在相關(guān)深度合成產(chǎn)品和服務(wù)中增加‘AI生成’的標(biāo)識(shí)機(jī)制，降低第三方識(shí)別AI生成內(nèi)容的難度。”
投稿郵箱：chuanbeiol@163.com 詳情請(qǐng)?jiān)L問川北在線：http://sanmuled.cn/
