世界通訊！AI換臉詐騙，戳中了人臉識別企業的哪些軟肋？

2023-05-30 17:47:07 阿爾法工場

最近，關于AI換臉詐騙的新聞火了。4月20日，福州市某科技公司法人代表郭先生，突然接到好友的微信視頻，好友告訴郭先生，自己的朋友在外地投標，需要430萬元保證金。

由于在視頻中看到了好友的樣貌，聽到了聲音，于是郭先生就放心地將錢轉了過去。

(資料圖片僅供參考)

可后來他卻發現，自己竟然遇上了“高端”騙局，對方通過智能AI換臉技術，佯裝成好友對他實施了詐騙……

這類消息，著實引起人們心中一陣恐慌。

因為身為凡胎肉體的你我，僅憑肉眼是很難看出這些偽造視頻的破綻的。

那豈不是意味著，遇到這樣的“AI騙術”，普通人受騙的幾率近乎100%了？

且慢，話說魔高一尺，道高一丈，既然AI換臉都發展到這地步了，那與之針鋒相對的“AI鑒偽”技術，又發展得怎樣了？

01 造假VS鑒偽

談到這個問題，身為“防守方”的AI鑒偽技術團隊，似乎有一種難以言說的艱辛。

因為在這場造假與鑒偽的“貓鼠游戲”中，AI換臉這類造假技術的成本，相比AI鑒偽技術的研發成本要低得多。

這就導致了許多研發AI鑒偽技術的企業、機構，從決定和造假者們死磕的那天起，就注定了要打一場十分艱難的戰爭。

就目前來看，AI換臉技術的成本主要包括以下幾個方面：

數據采集和處理的成本：AI換臉技術需要大量的人臉圖像或視頻作為訓練數據，但這些數據大部分都可以從互聯網上免費獲取，也可以通過付費購買或定制。

甚至有時候，定制一個AI換臉視頻幾乎是“九塊九包郵”。

算法開發和優化的成本：AI換臉技術主要基于深度學習和計算機視覺的算法，雖然這個過程需要一定的專業知識和技能，但是并不是特別高。

一方面，有很多開源平臺，如Faceswap、DeepFaceLab等，本身就提供了現成的算法代碼，用戶只需要下載使用即可，無需自行開發或改進。另一方面，即使用戶需要自行開發或改進算法，也可以借鑒已有的算法框架和思路，無需從零開始。

硬件設備和運行環境的成本：一般來說，一臺配置稍好的個人電腦就可以滿足需求，不需要特別昂貴的專業設備。舉例來說，一種比較流行的AI換臉軟件DeepFaceLab，僅需要一張NVIDIA RTX系列或GTX系列的獨立顯卡，且顯存為6GB就可運行。

這樣的一臺個人電腦，其成本大約在數千元左右。

與AI鑒偽技術所需的各種成本相比，這些偽造技術的成本簡直低得如同兒戲。

具體來說，AI鑒偽的成本大致包括了以下部分：

數據標注和篩選的成本：AI鑒偽技術需要大量的圖像或視頻作為訓練數據，這些數據需要經過人工標注和篩選。

然而，這一過程的難度可能超出了很多人的想象。

舉個例子，如果要對一小時的視頻進行人臉識別的標注，需要先將視頻分割成幀，然后對每一幀中的人臉進行定位、標識、分類等操作，還要考慮人臉的遮擋、模糊、光照等影響因素，以及人臉的姿態、表情、年齡等屬性信息。這樣一來，一小時的視頻可能需要幾十個小時甚至幾百個小時才能完成標注。

其次，數據標注不僅僅是簡單地給圖像或視頻打上標簽，不同的任務和場景需要不同的標注規則和方法，標注人員需要掌握相關的領域知識和技術能力，才能保證數據的質量和有效性。

算法設計和測試的成本：AI鑒偽技術主要基于深度學習和計算機視覺的算法，這些算法需要根據不同類型和質量的偽造內容進行設計和測試，以提高檢測的覆蓋率和魯棒性。

算法設計和測試是一個復雜且持續更新的過程，需要專業的團隊和資源。算法設計和測試的成本取決于算法的復雜度、性能、效率等因素，但一般來說，每個算法項目的研發成本至少在幾十萬到幾百萬美元之間。

硬件設備和系統的成本：但凡了解過大模型訓練成本的朋友，都知道這一過程對硬件的高昂要求，即使今天的機器視覺技術經過了層層優化，但一個完整的機器視覺系統的價格至少在幾萬到十幾萬元之間，包括硬件成本、軟件成本、計算成本以及存儲成本。

綜上所述，由于AI造假技術天然所具備的成本優勢，使得目前這場造假VS鑒偽的戰爭，呈現出了一種“正規軍圍剿游擊隊”的態勢。

在這樣的較量中，受害最多的“災區”，往往是高成本AI鑒偽技術難以覆蓋的地方。

02 鑒偽技術的軟肋

回顧這些年見諸于各大媒體的AI詐騙事件，我們不難發現，這類事件中最常見的受害者，往往是作為個體的普通民眾，而非企業、政府或金融機構。

例如，5月22日，安徽安慶的何先生接到熟人視頻電話，讓他幫忙轉一筆賬。“因為打了視頻電話，又是熟人，我就沒多想，就轉賬了”。事發時，何先生放松了警惕，向對方轉了245萬元。

同樣地，2023年3月，陜西的一名女子被騙子利用AI換臉技術冒充其女兒，通過視頻通話詐騙了不少錢。騙子先是通過微信添加了女子為好友，并自稱是其女兒的同學。

之后，騙子再通過AI換臉技術，將自己的面部替換成女子女兒的面部，并以女兒出車禍為由，又騙走了一筆錢。

其實，出現這類現象的原因不難理解，由于目前AI鑒偽技術的研發成本較為高昂，因此大部分擁有此類技術的公司，都只將這些技術向企業、政府或金融類客戶開放，而無法覆蓋到普通個人用戶。

以百度為例，雖然其在自身的AI開放平臺上，推出了人臉深度鑒偽接口，用于準確鑒別Al換臉技術生成的人臉圖像，但是這一接口卻存在著一定的使用門檻。

使用者需要在百度AI開放平臺注冊賬號，并申請使用該接口。其次，該接口是收費的，根據調用次數和服務質量的不同，有不同的收費標準。

而同樣地，百度旗下的產品度小滿，雖然也推出了自身的防深偽技術，但這一技術主要覆蓋的群體，是金融領域的客戶，其涉及的場景主要是借貸、投資、理財等業務。

雖然各大企業，基于微表情分析、圖卷積（GCN）技術以及基于重建的自監督預訓練方法，對目前的AI鑒偽技術進行了大幅升級，但在大模型愈發普及的當下，AI詐騙的技術，也開始呈現出一種更加低廉化、普遍化的趨勢。

除非這些嚴密而高效的鑒偽技術，能夠普及到每個個人用戶的微信上，并且調用起來跟小程序一樣毫無門檻和難度，否則，那類通過“微信好友”的方式進行詐騙的AI技術，就永遠有機可乘。

事情發展到這一步，AI技術與倫理、法律之間的糾葛，似乎到了某個比較關鍵的轉折點。

倘若這些低成本，針對個人的AI詐騙事件屢禁不止，甚至借著這波大模型的“東風”，進一步席卷全國，那么就會有更多不法分子肆無忌憚，如法炮制，進而引起民眾的進一步恐慌。

而在AI鑒偽技術得不到下沉的情況下，監管部門為了防范此類事件的頻發，只能進一步收緊對AI技術使用的審核機制，而嚴格的審核機制，則會間接降低AI生態的活躍度和市場的繁榮度。

很多原本能制造奇跡的創意或項目，也許還沒開始，就被卡死在了繁雜的審核階段。

但除了這類悲觀的前景外，現實還存在著另一種可能，那就是更多企業和機構，在這類AI詐騙的壓力下，開始尋求突破和創新，形成一種創新驅動的機制。

03 魔高一丈，道高一尺

盡管AI鑒偽技術，面臨著成本高企，難以下沉的局面，但破局之道其實并非不存在，因為一種技術的升級，所帶來的影響可能不是垂直和單一的，而往往有可能是多維和廣闊的。

例如AI鑒偽所涉及的計算機視覺、圖像識別等底層技術，就有著十分廣闊的應用范圍，和巨大的發展空間。

例如，在智能駕駛方面，目前的計算機視覺、圖像識別等技術還不能完全替代人類的駕駛，還需要結合其他傳感器、雷達、地圖等信息，提高感知的準確性和魯棒性，同時還需要解決道路復雜多變的情況，提高決策的智能性和安全性。

在智慧農業領域，通過提高圖像識別的覆蓋率和及時性，可以實現對農作物、土壤、病蟲害等的更全面和更實時的監測和診斷，從而提高農業生產的質量和效率。

類似受益的領域，還有交通、醫療、文娛等等。

從更長遠的角度來看，這一下沉過程造成的技術外溢，將會使得更多的經濟主體能夠獲取和使用先進技術，從而促進創新活動的多元化和活躍化。

同時，技術門檻的降低，也必然會導致生產成本和價格的下降，使得企業能夠進一步擴大市場規模，促進了經濟增長。

從這樣的角度來看，目前的AI詐騙事件，只是大模型在走向下沉過程中，所必然要遭受的一種劫難或磨礪。

唯有經過了這樣的考驗，AI所帶來的各種技術，才能真正地在法律、倫理上，被社會大眾廣泛地接納。