AI換臉被騙1.8億！普通人怎么才能識別AI作圖的真假

紙引未來網訊從 2022 年底的 Midjourney、stable diffusion，再到 Open AI 的 Chat GPT、DALL·E，Sora，谷歌的 Gemini，AI 已經在寫文章、畫畫、制作圖片、視頻等領域展現出了自己無與倫比的能力。

看著 AI 一次又一次展現出令人驚嘆的本領，不知道你是否有過擔憂，既然 AI 能夠生成接近于真人的圖片、視頻，作為普通人的我們，以后還能分辨出一張圖片或者一段視頻是不是真實的嗎？

這樣的擔憂不無道理。我們不妨做一個小測試，看看你是否能在下面的四張圖片中，找到唯一一張真人照片？

生成這些圖片的是“此人不存在”網站：thispersondoesnotexist.com

四張照片中，只有第一張是真人照片，其余三張圖片均為 AI 生成。

當然了，除了人像，AI 還能夠生成各種各樣的風景照片，以及本身就是用電腦制作的 CG 圖片。而要分辨這些照片，對普通人來說就更加困難了。

但幸好，在大部分情況下，是否能分辨圖片是不是出自 AI 之手，并不會對我們的生活產生實質性的影響。網絡上的絕大部分圖片，我們都是一看了之。

而近幾年，也出現過一些用 AI 圖片制作的假新聞。

AI 生成的特朗普被捕圖，圖片截取自 X（原推特）

這些假新聞雖然大部分是惡作劇，但如果這樣的假新聞充斥網絡，可能會讓人們對新聞事件的可信度產生懷疑。畢竟，眼見都不一定為實了，那我們怎么知道哪些是真的，哪些是假的？

AI 生成的圖片“馬斯克與機器人女友”，圖片截取自X（原推特）

如何分辨圖片“真假”？

既然網絡上的圖片真假混雜，我們到底要怎樣判斷一張圖片是否是由 AI 生成的？其實，有一些簡單的方法可以幫助我們判斷。

1、利用常識尋找不合常理之處

最直接有效的方法，就是利用我們的“常識”。

在過去一兩年里，AI 圖片生成的人類手部特征一直是被吐槽的焦點。雖然一些模型比如 Midjourney V5，Stable Diffusion 針對手部進行了一些優化，但如果觀察 AI 假新聞中的圖片，依然會發現一些“奇怪的手部”。

利用 GPT4.0 的 DALL·E 繪制的手，依然能看出“不合理”的手部特征

除了手部會露出破綻，AI 生成的圖片也可能會出現一些不合常識的錯誤。比如還是前面提到的“特朗普被捕圖”中，就有幾處奇怪的地方。

AI 生成圖片中不合邏輯之處

首先，特朗普的身后出現了一個朝向奇怪的且不屬于任何人的腳。另外，特朗普的左臂扭曲成了不正常的形狀。而身后的路人面對這樣“重大”的事件，表情漠不關心，而追逐的警察們，似乎眼睛關注的焦點也不在特朗普身上。

因此，人類世界的常識以及我們對物理世界的了解，是我們識別 AI 圖片的巨大武器。如果圖片中出現了一些違背常識和物理規律的細節，那基本可以認定這是一張 AI 生成的圖片。

2、查詢圖片來源

但有些圖片的常識性錯誤隱藏在很細節的地方，乍一看不太容易分辨。對這一類圖片，同樣有一個簡單的判斷方法。

現在的搜索引擎都有“圖片查詢”功能，不少在線網站也可以提供類似的功能。你可以直接將“可疑圖片”上傳。通過“查找圖片來源”，就能找到發布過這張圖片的網站。

假如對于一個非常重大的新聞事件，發布媒體卻無一例外地是個人媒體或者營銷號，那么這張圖片大概率是假的。如果有可靠媒體發布過，并且報道的內容也證實了圖片內容，那這樣的圖片才可能是真的。

現有網站和圖片來源查詢工具可以直接搜索圖片來源，圖片截取自網絡

3、借助識別網站

目前，有很多網站可以直接查詢圖片的 EXIF 信息（記錄著相機的鏡頭、光圈、快門等參數）。

假如別人向你發來了一張圖片炫耀自己的假期或者是攝影技術，你可以直接將圖片上傳查詢。

如果能夠看到相機參數，那這張圖片大概率是真實的，至少說明確實是用相機拍攝的。而如果沒有這些信息，有可能是 AI 生成，但也有可能是經過了壓縮處理的圖片。

除此之外，還有專門的識別 AI 圖片的網站，比如“AI or not 網站”。這些網站也可以識別給定的圖片是 AI 生成的還是人類創作的，雖然不是百分之百準確，但可以作為一個參考。

AI or not 對于兩張圖片的判斷結果，圖片截取自AI or not網站

當然了，對于大部分的新聞事件，熱度很快就會過去，并不會對普通人的生活產生實質性的影響。但接下來要提到的“深度偽造”技術，是會對每一個人產生直接影響的。

當心！AI騙局：深度偽造

深度偽造（deepfake）是一個由深度學習（deep learning）和偽造（fake）合成的詞。它的意思很好理解，就是利用深度學習技術來偽造一些圖片、視頻，這類圖片和視頻一般以人類為主體。

其實早在 GPT、midjourney 之類的 AI 工具出現之前，深度偽造技術就已經出現了。它最典型的一個應用，就是 AI 換臉。

在 2019 年，古裝劇《長安十二時辰》里的“崔六郎”角色，就經過了 AI 換臉。另外，在 2020 年的《三千殺鴉》《了不起的兒科醫生》等影視劇中，也使用了 AI 換臉技術。

而最近的“短劇出海”，深度偽造技術也發揮了重要作用，利用 AI 換臉技術，一鍵就可以把中國人面孔換成外國人面孔，免去了翻拍的成本。

出海短劇一鍵換臉，圖片截取自 X（原推特）

現在一些 AI 換臉工具，甚至可以根據一張照片完成面部替換。

這些技術既可以用于平時的娛樂，也可以用于商業行為中，比如制作主播的數字人替身，實現 24 小時無間斷直播賣貨。

但如果深度偽造技術到了不法分子的手中，可能會成為他們做壞事的工具。

比如，騙子可以利用在網絡上收集到的圖片，制作 AI 換臉視頻，利用這樣的視頻進行詐騙。

今年年初，中國香港的警方就接到一起報案，騙子通過 AI 換臉冒充某公司的首席財務官，要求公司財務轉賬 2 億港幣（約合人民幣 1.8 億元），公司財務轉賬之后幾天，才意識到上當受騙了。

除此之外，還有騙子利用 AI 換臉，冒充被害人的朋友、兒女、父母等角色，對人實施詐騙。而在視頻中看到自己親朋好友的畫面，會讓受害人放下戒心。

當壞人掌握了深度偽造技術，就實實在在地會對普通人的生活產生影響，任何人都有可能成為受騙者。

面對深度偽造內容 我們該怎么辦？

那究竟要如何甄別深度偽造內容？對此，AI 機構和個人都有可以做的事情。

1、對于 AI 公司

AI 機構也在努力減少深度偽造技術濫用。

在一些圖片生成模型的使用過程中，比如 Open AI 的 DALL·E 模型中，你是沒有辦法讓 AI 對某張具體照片進行處理的，也沒有辦法生成特定的人臉內容。

大部分的 AI 生成模型都會屏蔽特殊的詞匯，以防止模型被用來生成惡意的圖片或者視頻。比如在“特朗普被捕”的假新聞圖片泛濫之后，Midjourney 禁止了 arrest（被捕）這個詞的使用。

另外，大部分機構包括 Open AI、Meta、midjourney 等等，都會在生成的圖像數據中添加水印，而正規的提供 AI 換臉的機構，也會在視頻里內嵌水印，和真人視頻做區別。

當然了，不法分子在利益的驅使下，會絞盡腦汁去掉偽造痕跡。他們的目的就是讓人認為，這些圖片視頻是真的。因此對每一個人來說，我們也需要了解一些防范方法。

2、對于個人

對于我們普通人來說，我們手中不太可能有專門的鑒別軟件，也不太可能逐幀去分析畫面中的破綻，但依然有一些簡單方法可以幫助我們分析判斷。

比如，因為有一些 AI 換臉視頻是犯罪分子提前制作的。

如果視頻里的人提到了讓你轉錢，你可以要求視頻里的人做一些特定的動作，比如轉個身，以及用手在攝像頭前面停留一會、揮一揮。

通過這種方法，既可以分辨對方是不是一個提前錄制好的視頻，同時，手在臉前面晃動也會對一些簡單的 AI 換臉工具進行干擾，“假人”可能會露出破綻。

除此之外，你也可以讓對方回答一些只有你們才知道的消息，比如“你們最后一次見面是在哪里？”或者明知道對方沒有孩子，也故意問一問對方孩子的消息，看看是不是騙子冒充的。

畢竟，對方已經提到讓你轉錢了，讓對方做幾個動作回答幾個問題驗證身份也并不過分。而自己的錢袋子，當然要自己守護好。

此外，大家可以牢記公安部提到的，防詐騙“六個一律”“八個凡是”原則。

“六個一律”

1、談到銀行卡，一律掛斷；

2、談到中獎了，一律掛斷；

3、談到“電話轉接公檢法”要求匯款的，一律掛斷；

4、所有短信，讓你點擊鏈接的，一律刪掉；

5、微信陌生人發來的鏈接，一律不點；

6、提到“安全賬戶”的，一律是詐騙。

“八個凡是”

1、凡是自稱公檢法要求匯款的；

2、凡是讓你匯款到“安全賬戶”的；

3、凡是通知中獎、領獎要你先交錢的；

4、凡是通知“家屬”出事要先匯款的；

5、凡是在電話中索要銀行卡信息及驗證碼的；

6、凡是讓你開通網銀接受檢查的；

7、凡是自稱領導要求匯款的；

8、凡是陌生網站要登記銀行卡信息的。

參考文獻

[1]https://thispersondoesnotexist.com/

[2]http://www.news.cn/legal/20240226/da985bba58bf4ea2a65b872d06aec6a5/c.html

[3]https://www.scientificamerican.com/article/how-to-tell-if-a-photo-is-an-ai-generated-fake/

[4]https://about.fb.com/news/2024/02/labeling-ai-generated-images-on-facebook-instagram-and-threads/

[5]https://www.aiornot.com/

紙引未來網是一個造紙印刷包裝的大數據服務平臺，為您提供包裝紙價格指數、文化用紙價格指數、生活用紙價格指數、特種紙價格指數、廢紙價格指數、紙漿價格指數，采購訂單，廣告推廣，免費找貨等服務。官網網址：http://www.tongyi18.com