從 2022 年底的 Midjourney、stable diffusion，再到 Open AI 的 Chat GPT、DALL·E，Sora，谷歌的 Gemini，AI 已經(jīng)在寫文章、畫畫、制作圖片、視頻等領(lǐng)域展現(xiàn)出了自己無與倫比的能力。

看著 AI 一次又一次展現(xiàn)出令人驚嘆的本領(lǐng)，不知道你是否有過擔(dān)憂，既然 AI 能夠生成接近于真人的圖片、視頻，作為普通人的我們，以后還能分辨出一張圖片或者一段視頻是不是真實的嗎？

這樣的擔(dān)憂不無道理。我們不妨做一個小測試，看看你是否能在下面的四張圖片中，找到唯一一張真人照片？

生成這些圖片的是“此人不存在”網(wǎng)站：thispersondoesnotexist.com

答案

點擊下方空白處獲得答案

四張照片中，只有第一張是真人照片，其余三張圖片均為 AI 生成。

當(dāng)然了，除了人像，AI 還能夠生成各種各樣的風(fēng)景照片，以及本身就是用電腦制作的 CG 圖片。而要分辨這些照片，對普通人來說就更加困難了。

但幸好，在大部分情況下，是否能分辨圖片是不是出自 AI 之手，并不會對我們的生活產(chǎn)生實質(zhì)性的影響。網(wǎng)絡(luò)上的絕大部分圖片，我們都是一看了之。

而近幾年，也出現(xiàn)過一些用 AI 圖片制作的假新聞。

AI 生成的特朗普被捕圖，圖片截取自 X（原推特）

這些假新聞雖然大部分是惡作劇，但如果這樣的假新聞充斥網(wǎng)絡(luò)，可能會讓人們對新聞事件的可信度產(chǎn)生懷疑。畢竟，眼見都不一定為實了，那我們怎么知道哪些是真的，哪些是假的？

AI 生成的圖片“馬斯克與機(jī)器人女友”，圖片截取自X（原推特）

如何分辨圖片“真假”？

既然網(wǎng)絡(luò)上的圖片真假混雜，我們到底要怎樣判斷一張圖片是否是由 AI 生成的？其實，有一些簡單的方法可以幫助我們判斷。

1

利用常識尋找不合常理之處

最直接有效的方法，就是利用我們的“常識”。

在過去一兩年里，AI 圖片生成的人類手部特征一直是被吐槽的焦點。雖然一些模型比如 Midjourney V5，Stable Diffusion 針對手部進(jìn)行了一些優(yōu)化，但如果觀察 AI 假新聞中的圖片，依然會發(fā)現(xiàn)一些“奇怪的手部”。

利用 GPT4.0 的 DALL·E 繪制的手，依然能看出“不合理”的手部特征

除了手部會露出破綻，AI 生成的圖片也可能會出現(xiàn)一些不合常識的錯誤。

比如還是前面提到的“特朗普被捕圖”中，就有幾處奇怪的地方。

AI 生成圖片中不合邏輯之處

首先，特朗普的身后出現(xiàn)了一個朝向奇怪的且不屬于任何人的腳。另外，特朗普的左臂扭曲成了不正常的形狀。而身后的路人面對這樣“重大”的事件，表情漠不關(guān)心，而追逐的警察們，似乎眼睛關(guān)注的焦點也不在特朗普身上。

因此，人類世界的常識以及我們對物理世界的了解，是我們識別 AI 圖片的巨大武器。如果圖片中出現(xiàn)了一些違背常識和物理規(guī)律的細(xì)節(jié)，那基本可以認(rèn)定這是一張 AI 生成的圖片。

2

查詢圖片來源

但有些圖片的常識性錯誤隱藏在很細(xì)節(jié)的地方，乍一看不太容易分辨。對這一類圖片，同樣有一個簡單的判斷方法。

現(xiàn)在的搜索引擎都有“圖片查詢”功能，不少在線網(wǎng)站也可以提供類似的功能。你可以直接將“可疑圖片”上傳。通過“查找圖片來源”，就能找到發(fā)布過這張圖片的網(wǎng)站。

假如對于一個非常重大的新聞事件，發(fā)布媒體卻無一例外地是個人媒體或者營銷號，那么這張圖片大概率是假的。如果有可靠媒體發(fā)布過，并且報道的內(nèi)容也證實了圖片內(nèi)容，那這樣的圖片才可能是真的。

現(xiàn)有網(wǎng)站和圖片來源查詢工具可以直接搜索圖片來源，圖片截取自網(wǎng)絡(luò)

3

借助識別網(wǎng)站

目前，有很多網(wǎng)站可以直接查詢圖片的 EXIF 信息（記錄著相機(jī)的鏡頭、光圈、快門等參數(shù)）。

假如別人向你發(fā)來了一張圖片炫耀自己的假期或者是攝影技術(shù)，你可以直接將圖片上傳查詢。

如果能夠看到相機(jī)參數(shù)，那這張圖片大概率是真實的，至少說明確實是用相機(jī)拍攝的。而如果沒有這些信息，有可能是 AI 生成，但也有可能是經(jīng)過了壓縮處理的圖片。

除此之外，還有專門的識別 AI 圖片的網(wǎng)站，比如“AI or not 網(wǎng)站”。這些網(wǎng)站也可以識別給定的圖片是 AI 生成的還是人類創(chuàng)作的，雖然不是百分之百準(zhǔn)確，但可以作為一個參考。

AI or not 對于兩張圖片的判斷結(jié)果，圖片截取自AI or not網(wǎng)站

當(dāng)然了，對于大部分的新聞事件，熱度很快就會過去，并不會對普通人的生活產(chǎn)生實質(zhì)性的影響。但接下來要提到的“深度偽造”技術(shù)，是會對每一個人產(chǎn)生直接影響的。

當(dāng)心！AI騙局：深度偽造

深度偽造（deepfake）是一個由深度學(xué)習(xí)（deep learning）和偽造（fake）合成的詞。它的意思很好理解，就是利用深度學(xué)習(xí)技術(shù)來偽造一些圖片、視頻，這類圖片和視頻一般以人類為主體。

其實早在 GPT、midjourney 之類的 AI 工具出現(xiàn)之前，深度偽造技術(shù)就已經(jīng)出現(xiàn)了。它最典型的一個應(yīng)用，就是 AI 換臉。

在 2019 年，古裝劇《長安十二時辰》里的“崔六郎”角色，就經(jīng)過了 AI 換臉。另外，在 2020 年的《三千殺鴉》《了不起的兒科醫(yī)生》等影視劇中，也使用了 AI 換臉技術(shù)。

而最近的“短劇出海”，深度偽造技術(shù)也發(fā)揮了重要作用，利用 AI 換臉技術(shù)，一鍵就可以把中國人面孔換成外國人面孔，免去了翻拍的成本。

出海短劇一鍵換臉，圖片截取自 X（原推特）

現(xiàn)在一些 AI 換臉工具，甚至可以根據(jù)一張照片完成面部替換。

這些技術(shù)既可以用于平時的娛樂，也可以用于商業(yè)行為中，比如制作主播的數(shù)字人替身，實現(xiàn) 24 小時無間斷直播賣貨。

但如果深度偽造技術(shù)到了不法分子的手中，可能會成為他們做壞事的工具。

比如，騙子可以利用在網(wǎng)絡(luò)上收集到的圖片，制作 AI 換臉視頻，利用這樣的視頻進(jìn)行詐騙。

今年年初，中國香港的警方就接到一起報案，騙子通過 AI 換臉冒充某公司的首席財務(wù)官，要求公司財務(wù)轉(zhuǎn)賬 2 億港幣（約合人民幣 1.8 億元），公司財務(wù)轉(zhuǎn)賬之后幾天，才意識到上當(dāng)受騙了。

除此之外，還有騙子利用 AI 換臉，冒充被害人的朋友、兒女、父母等角色，對人實施詐騙。而在視頻中看到自己親朋好友的畫面，會讓受害人放下戒心。

當(dāng)壞人掌握了深度偽造技術(shù)，就實實在在地會對普通人的生活產(chǎn)生影響，任何人都有可能成為受騙者。

面對深度偽造內(nèi)容

我們該怎么辦？

那究竟要如何甄別深度偽造內(nèi)容？對此，AI 機(jī)構(gòu)和個人都有可以做的事情。

1

對于 AI 公司

AI 機(jī)構(gòu)也在努力減少深度偽造技術(shù)濫用。

在一些圖片生成模型的使用過程中，比如 Open AI 的 DALL·E 模型中，你是沒有辦法讓 AI 對某張具體照片進(jìn)行處理的，也沒有辦法生成特定的人臉內(nèi)容。

大部分的 AI 生成模型都會屏蔽特殊的詞匯，以防止模型被用來生成惡意的圖片或者視頻。比如在“特朗普被捕”的假新聞圖片泛濫之后，Midjourney 禁止了 arrest（被捕）這個詞的使用。

另外，大部分機(jī)構(gòu)包括 Open AI、Meta、midjourney 等等，都會在生成的圖像數(shù)據(jù)中添加水印，而正規(guī)的提供 AI 換臉的機(jī)構(gòu)，也會在視頻里內(nèi)嵌水印，和真人視頻做區(qū)別。

當(dāng)然了，不法分子在利益的驅(qū)使下，會絞盡腦汁去掉偽造痕跡。他們的目的就是讓人認(rèn)為，這些圖片視頻是真的。

因此對每一個人來說，我們也需要了解一些防范方法。

2

對于個人

對于我們普通人來說，我們手中不太可能有專門的鑒別軟件，也不太可能逐幀去分析畫面中的破綻，但依然有一些簡單方法可以幫助我們分析判斷。

比如，因為有一些 AI 換臉視頻是犯罪分子提前制作的。

如果視頻里的人提到了讓你轉(zhuǎn)錢，你可以要求視頻里的人做一些特定的動作，比如轉(zhuǎn)個身，以及用手在攝像頭前面停留一會、揮一揮。

通過這種方法，既可以分辨對方是不是一個提前錄制好的視頻，同時，手在臉前面晃動也會對一些簡單的 AI 換臉工具進(jìn)行干擾，“假人”可能會露出破綻。

除此之外，你也可以讓對方回答一些只有你們才知道的消息，比如“你們最后一次見面是在哪里？”或者明知道對方?jīng)]有孩子，也故意問一問對方孩子的消息，看看是不是騙子冒充的。

畢竟，對方已經(jīng)提到讓你轉(zhuǎn)錢了，讓對方做幾個動作回答幾個問題驗證身份也并不過分。而自己的錢袋子，當(dāng)然要自己守護(hù)好。

此外，大家可以牢記公安部提到的，防詐騙“六個一律”“八個凡是”原則。

“六個一律”

1、談到銀行卡，一律掛斷；

2、談到，一律掛斷；

3、談到“電話轉(zhuǎn)接公檢法”要求匯款的，一律掛斷；

4、所有短信，讓你點擊鏈接的，一律刪掉；

5、微信陌生人發(fā)來的鏈接，一律不點；

6、提到“安全賬戶”的，一律是詐騙。

“八個凡是”

1、凡是自稱公檢法要求匯款的；

2、凡是讓你匯款到“安全賬戶”的；

3、凡是通知中獎、領(lǐng)獎要你先交錢的；

4、凡是通知“家屬”出事要先匯款的；

5、凡是在電話中索要銀行卡信息及驗證碼的；

6、凡是讓你開通網(wǎng)銀接受檢查的；

7、凡是自稱領(lǐng)導(dǎo)要求匯款的；

8、凡是陌生網(wǎng)站要登記銀行卡信息的。

參考文獻(xiàn)

[1]https://thispersondoesnotexist.com/

[2]http://www.news.cn/legal/20240226/da985bba58bf4ea2a65b872d06aec6a5/c.html

[3]https://www.scientificamerican.com/article/how-to-tell-if-a-photo-is-an-ai-generated-fake/

[4]https://about.fb.com/news/2024/02/labeling-ai-generated-images-on-facebook-instagram-and-threads/

[5]https://www.aiornot.com/

策劃制作

作者丨小瑋 科普創(chuàng)作者

審核丨于旸 騰訊玄武實驗室負(fù)責(zé)人

策劃丨王夢如

責(zé)編丨王夢如

校對丨徐來 林林