網(wǎng)絡(luò)上使用AI技術(shù)興風作浪的詐騙事件屢屢出現(xiàn)，這些詐騙事件引起了廣泛的社會關(guān)注，5月22日，包頭警方發(fā)布了一起使用AI實施電信詐騙的案例，讓AI騙局再次沖上熱搜，據(jù)警方通告所述，福州市某科技公司法人代表郭某，在接到好友微信視頻電話后，十分鐘之內(nèi)向?qū)Ψ街苯愚D(zhuǎn)賬430萬元，由于考慮到是真人視頻通話，郭某并沒有懷疑對方的真實性，后續(xù)聯(lián)系好友的時候才意識到自己遭遇到了AI換臉騙局，騙子是通過AI換臉佯裝自己的好友實施詐騙行為。

自從AI技術(shù)普及之后，有關(guān)于AI技術(shù)的爭論向來都沒有定論，此前chat gpt就因為編寫假新聞受到人們的詬病，而近期頻繁出現(xiàn)的AI詐騙讓人們不得不反思，AI生成的虛假信息或許真的潛藏著巨大的社會風險威脅，英國媒體曾報道，2019年的三月份，英國警方逮捕了一名使用AI語音模仿軟件實行詐騙的犯罪嫌疑人，這位犯罪嫌疑人使用自己的聲音改變成當?shù)匾患夷茉垂�司老板的聲音，通過電話詐騙了22萬歐元，據(jù)被詐騙的高管回憶，當時自己產(chǎn)生過疑心，從電話中聽到老板的德國口音，便放下了警惕心理。

其實AI也模仿一個人的聲音或外貌早已不是新鮮事，此前，AI孫燕姿就曾經(jīng)靠模仿聲線爆紅全網(wǎng)，視頻上傳者使用AI音色替換技術(shù)，生成了孫燕姿音色的翻唱歌曲，其中演唱的周杰倫經(jīng)典歌曲《發(fā)如雪》在全網(wǎng)播放量更是超過了200萬次，最近媒體也爆料出，網(wǎng)上出現(xiàn)一大批付費AI換臉的軟件，這些軟件的套餐價格從499元到2888元不等，經(jīng)過軟件的換臉之后的數(shù)字人口型和各種微小動作幾乎毫無破綻。

蘇州大學競爭政策與反壟斷研究中心研究員方翔對此指出，近期頻繁出現(xiàn)的AI詐騙事件，主要是由于人工智能技術(shù)在圖像領(lǐng)域的發(fā)展應(yīng)用，這項技術(shù)可以將不同人臉的圖像面部特征完成替換，而采用擬聲的方式會借助深度學習模型，根據(jù)現(xiàn)有的聲音樣本生成與原生物體相接近的聲音，通過這種方式來與對方展開交談，利用AI換臉，AI換聲這樣的虛假音視頻進行詐騙的違法行為在當下屢見不鮮，廣大公眾一定要提高警惕加強防范意識，相關(guān)部門也應(yīng)該及時做出規(guī)范，對該行業(yè)的發(fā)展提出更高的要求。