Deepfake模仿生成人臉效果出眾，真假難辨。

由此引發(fā)的爭議和擔憂，使得各大平臺先后封殺了Deepfake。

但最近，外媒又報道了不法之徒用音頻版Deepfake開始了新的詐騙活動，“一血”就拿下24.3萬美元（約182萬人民幣）。

棘手的是，目前安全專家毫無破解之法。

發(fā)生了什么？

今年6月，一家美國的科技公司員工收到了“自家”CEO發(fā)來的語音郵件，要求他“馬上協(xié)助完成一筆緊急的生意”。

但是，這次CEO的聲音聽起來卻有一點怪：

是boss的聲音沒錯，但是感覺機械了點，尖銳了點，而且這種語音郵件的聯(lián)系方式也很反常。

這位員工還是比較機敏，把事情上報給了公司法務(wù)，終于證實這是一起合成人類語音的詐騙事件。

隨后，這家公司把相關(guān)資料提供給了美國安全咨詢公司Nisos來調(diào)查，但結(jié)果卻無法令人滿意。

專家撓頭，表示無解

Nisos使用Spectrum3d音頻頻譜圖工具分析了Deepfake語音郵件的音頻記錄。

技術(shù)人員注意到了音頻頻譜圖中的峰值反復(fù)出現(xiàn)。Nisos懷疑是Deepfake創(chuàng)作者用多個軌道的聲音合成后播放，以此來偽造某一目標人物的音色。

此外，音頻頻譜斷斷續(xù)續(xù)，與正常的人類錄音不一致。以1.2倍速度播放時，這段音頻聽起來更像是文本轉(zhuǎn)語音的軟件合成結(jié)果。

最重要的一點，研究人員沒有在這段音頻中檢測到任何背景噪音。

比較Deepfake音頻和正常人類錄音，可以發(fā)現(xiàn)真實情況下，頻譜的音高和音調(diào)更加平滑，而且背景中總能檢測到噪音。

但是，Nisos的分析也只能到此為止了，因為缺乏更多的數(shù)據(jù)樣本，研究人員無法知曉或推測生成音頻的算法模型細節(jié)。

Nisos找到了一個疑似詐騙犯使用的電話號碼，但是沒有任何注冊身份信息，出于法律原因，Nisos沒有回撥號碼去聯(lián)系。

所以，目前來看，還沒有識別和追蹤詐騙者的技術(shù)手段。

但研究人員總結(jié)了Deepfake音頻的特點。Deepfake音頻創(chuàng)作者為了創(chuàng)建更為逼真的音頻，通常需要滿足如下幾個條件：

1、截獲目標人物幾乎沒有背景噪音的高質(zhì)量音頻；

2、在對方不需要或無法回電、交談的情況下發(fā)送音頻；

3、以留言的形式避免與音頻接收者實時交談。

以前發(fā)生過嗎？

2019年9月，英國出現(xiàn)了第一起Deepfake音頻詐騙事件。

犯罪分子使用音頻版Deepfake對英國一家能源公司高管的聲音進行模仿。

該公司的執(zhí)行董事在接聽詐騙電話后將超過24.3萬美元匯入了一個匈牙利賬戶。

第一筆進賬后，騙子接著打了第二個要求轉(zhuǎn)賬的電話，這才引起了懷疑。

目前，該罪犯仍未被抓獲，但據(jù)外媒報道，這起案件中的Deepfake音頻效果及其逼真，不僅模仿了音色，對于標點、語調(diào)的把握也十分到位，甚至還學會了公司boss的德國口音。

今年2月，互聯(lián)網(wǎng)安全公司Symantec報告了三起Deepfake音頻詐騙案例，犯罪分子通過電話會議、YouTube、社交媒體以及TED演講獲得了公司高管的音頻，然后用Deepfake算法復(fù)制高管的聲音，致電財務(wù)部門的高級成員要求緊急匯款。

騙子一般利用VoIP網(wǎng)絡(luò)電話賬號聯(lián)系攻擊對象，繞過通話，直接使用語音郵件功能發(fā)送合成音頻。

Nisos認為，現(xiàn)在的小規(guī)模發(fā)送Deepfake音頻，可能只是犯罪分子在“試水”，隨著Deepfakes的創(chuàng)建或購買變得越來越容易，音頻、視頻的合成處理質(zhì)量不斷提高，此類電子詐騙將更為普遍。

普通人該怎么辦？

盡管Nisos的研究人員說，目前這種Deepfake算法還沒有外包給單個個體或大規(guī)模生產(chǎn)的可能。

但Nisos通過“特殊渠道”聯(lián)系到了熟悉Deepfake項目的開發(fā)者，他們說不確定這種情況將來會不會成為可能。

音頻Deepfake的核心問題不僅要捕捉人的音色，還要捕捉具體的言談舉止習慣。

然而，類似Yandex反向圖像搜索工具的語音版，可以用來收集大量樣本，然后建立和訓練Deepfake模型，幫助將源語音轉(zhuǎn)換為目標語音。

那么當下普通人如何預(yù)防類似的詐騙呢？

Nisos認為，盡管Deepfake真假難辨，但能力畢竟有限。

對于可疑的留言或語音郵件，可以使用已知號碼回撥該發(fā)送者進行通話；

公司員工也可以針對公司內(nèi)部信息或某些機器無法輕易回答的問題在通話過程中進行挑戰(zhàn)性提問，以查明通話對象的身份。

你曾經(jīng)遇到過AI生成的語音詐騙嗎？(來源：獵云網(wǎng))

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。