利維坦按：
我個人覺得沃爾特·謝勒對于“深度偽造”的未來還是過于樂觀了，各種移花接木式的明星換臉有時候可不僅僅是娛樂和惡搞，她們往往也會成為色情網(wǎng)站的重點技術(shù)處理對象。不僅如此，看看最近的以哈戰(zhàn)爭，各種惡意煽動仇恨的虛假信息漫天飛，尤其是那些偽造的圖片，試圖通過視覺上的刺激來挑動人們的憤怒情緒——這無疑分化了公眾輿論，煽起了暴力的火焰。
在互聯(lián)網(wǎng)上，我們?nèi)绾沃朗裁词钦鎸嵉模?/p>
2023年春天，一張在五角大樓附近的爆炸照片（下圖）引起了華爾街的輕微恐慌，這是首次發(fā)生的人工智能生成圖像通過互聯(lián)網(wǎng)傳播影響市場的案例。
雖然這個惡作劇在受到審查后消失了，但對許多人來說，它似乎預(yù)示著更糟糕的事情即將發(fā)生。
這張假照片顯示，弗吉尼亞州美國軍事總部五角大樓附近冒出大量濃煙。? IAPONOMARENKO/TWITTER
不過，當圣母大學（the University of Notre Dame）計算機科學家、媒體取證專家沃爾特·謝勒（Walter Scheirer）讓他的學生在互聯(lián)網(wǎng)上搜尋人工智能篡改視頻的例子時，他們帶回來的結(jié)果讓他感到驚訝。他說，這就像是“無盡的迷因”。
到目前為止，大多數(shù)令人信服的“深度偽造”（Deepfake）似乎都只是為了引起你的會心一笑，而非引發(fā)經(jīng)濟崩潰：假冒的湯姆·克魯斯談?wù)撓词?；尼古拉斯·凱奇出演所有電影；拜登、川普和奧巴馬一起玩《使命召喚》。
謝勒得出結(jié)論，互聯(lián)網(wǎng)確實充斥著虛假內(nèi)容，但其中絕大多數(shù)似乎旨在建立聯(lián)系，而不是破壞與毀滅。
沃爾特·謝勒。? Glass Darkly Films
謝勒和互聯(lián)網(wǎng)是一起成長的。作為一名較年長的千禧一代，他將自己的第一臺計算機描述為“特別原始”的——一臺連接到家庭電視機的德州儀器機頂盒。中學時，他開始流連于Internet Relay Chat黑客頻道，與早期計算機地下世界的賽博朋克叛逆者進行虛擬交流。他說，即使在那個時候，黑客們也喜歡將科學事實和虛構(gòu)結(jié)合在一起，僅僅是出于喜歡炫技而已。
在他的新書《互聯(lián)網(wǎng)上的虛假事物史》（A History of Fake Things on the Internet）中，謝勒認為今天的“深偽”最好以這種精神來理解，即，從許多方面來看，它們是18世紀諷刺、維多利亞時代靈異攝影術(shù)等前互聯(lián)網(wǎng)時代戲仿與想象傳統(tǒng)的數(shù)字后代。
在最近的一次談話中，謝勒告訴我，他逐漸認識到，互聯(lián)網(wǎng)上虛假信息的盛行，并不是對公民規(guī)范的徹底、可怕的背離，而是我們?nèi)祟悇?chuàng)造神話和講故事動力的完全自然演變。
---
-無害虛假信息和危險虛假信息，該如何界定呢？
-在寫這本書的過程中，我更加欣賞的一件事就是，戲仿和諷刺在人類溝通中的價值。這是一種用來進行社會批判的非常古老的形式，經(jīng)常被相當有策略地使用。早在互聯(lián)網(wǎng)出現(xiàn)之前，一個非常著名的例子是1729年喬納森·斯威夫特（Jonathan Swift）寫的名為《一個小小的建議》（A Modest Proposal）的散文。
文章談?wù)撽P(guān)于同類相食和吃嬰兒，這確實令人不安，但斯威夫特實際上并不是在談?wù)撏愊嗍?，他試圖表達的是對愛爾蘭貧困狀況進行社會批判（該文提出下述建議：“將愛爾蘭十二萬嬰兒中的十萬嬰兒提供給富家人士當成桌上佳肴”，認為這樣做可以讓貧苦父母紓緩經(jīng)濟困難，獲得解脫。編者注）。如果你批判性地、深入地閱讀，你會即刻建立起某種聯(lián)系，你可能會以一種黑暗的方式找到它的主旨趣味所在——這當然也是斯威夫特的本意。
? Audible
但多年來，這篇散文經(jīng)常被誤解。偶爾會有公開朗讀的場合，即使在今天，人們也會失去理智——天吶，怎么可能有人提倡食用嬰兒呢？——這顯然沒有抓住重點。
互聯(lián)網(wǎng)上的很多內(nèi)容就是這樣。它充斥著顛覆性的內(nèi)容，需要你思考一下才能理解其信息。問題是，社交媒體的信息流特性往往導(dǎo)致我們停留在信息的表面層次上，這樣就會引起一片嘩然。
-那么深度造假呢？內(nèi)容看起來和聽起來都如此真實，很難辨認真假，更不用說反駁了。對這些的擔憂是否也被夸大了？
-是的，這是最近才出現(xiàn)的一個問題。深偽于2017年首次出現(xiàn)在互聯(lián)網(wǎng)上，因此如今的它并不是一項特別新的技術(shù)。人們非常擔心視頻出現(xiàn)在政治背景下，可能會改變選舉進程或?qū)е抡伪┝?。但是，這些都沒有發(fā)生。
? Michigan Radio
-你在書中寫了很多關(guān)于上世紀90年代和21世紀初計算機地下活動的內(nèi)容。從你的敘述中可以看出，即使在那個時候，人們也在網(wǎng)絡(luò)上模糊了事實和虛構(gòu)間的界限。黑客們在互相分享技術(shù)信息的同時，還分享各種謠言和笑話。你那時還是個十幾歲的少年，是如何被吸引進這個世界的？
-我一直對計算機非常感興趣，但在初中時，我的一個朋友找到了一些黑客的文本文件，基本上是黑客們制作的創(chuàng)意寫作雜志，他說：“看，這些東西真的超級有趣！” 那時我就意識到，還有這樣一個完全不同的計算機世界的存在。
-這些文件里面有什么？有諸如“猜猜政府到底在做什么？”之類的陰謀信息嗎？
-會涉及這些內(nèi)容，但還有更多其他內(nèi)容，比如有大量的視頻游戲作弊代碼。但隨后它會更深入，比如，你聽說過企業(yè)和政府使用的Unix操作系統(tǒng)嗎？好吧，這里有如何訪問它、如何使用它的方法。然后，就是創(chuàng)意寫作部分。除了經(jīng)典的陰謀論故事外，還有很多關(guān)于不明飛行物和超自然的內(nèi)容，這些內(nèi)容不可能是真的，但足夠有趣，讓你想繼續(xù)閱讀。我認為將所有這些想法融合在一起真是太酷了。
? Wikipedia
-你自己參與過傳奇的黑客行動嗎？有什么你愿意透露的嗎？
-我要把所有的功勞都歸功于我書中提到的那些黑客。我當時年紀還小。
-因為有一個故事我很好奇。你寫到了一個在2012年出現(xiàn)在網(wǎng)上的大型文本文件，似乎記錄了多年來對主要公司和政府目標進行的非常成功的攻擊——深度滲透，這種攻擊可能會讓人入獄。你評論說，直到今天，沒有人知道誰是幕后黑手。你的措辭讓我想知道是否是你本人。
-無可奉告。
-（笑）所以，你顯然認同無政府主義者“互聯(lián)網(wǎng)渴望自由”的思想。但今天你在圣母大學教書，你的個人簡介說你“倡導(dǎo)受天主教社會教義啟發(fā)的技術(shù)發(fā)展”，我有點難以將這兩者聯(lián)系在一起：反權(quán)威的黑客，天主教社會思想家。你能解釋一下嗎？
-它們之間的聯(lián)系是關(guān)于社群的觀念。黑客是一個非常有趣的亞文化群體——一群第一次彼此相連并創(chuàng)造了持久事物的人。他們創(chuàng)建了計算機安全行業(yè)。而天主教社會教義是關(guān)于：我們?nèi)绾卧谏鐓^(qū)意義上茁壯成長？如何建立某種共同利益的概念？
這里有一個重要的聯(lián)系：如果你把時間倒轉(zhuǎn)，看看我們今天構(gòu)建互聯(lián)網(wǎng)的想法，很多想法都來自上世紀60年代著名的媒體理論家馬歇爾·麥克盧漢（Marshall McLuhan）。他與反主流文化運動有著緊密聯(lián)系，但許多人不知道的一個事實是，他是一位虔誠的天主教徒。
馬歇爾·麥克盧漢（1911-1980），加拿大哲學家及教育家，曾在大學教授英國文學、文學批判及傳播理論，也是現(xiàn)代傳播理論的奠基者，其觀點深遠影響人類對媒體的認知。在沒有“互聯(lián)網(wǎng)”這個字出現(xiàn)時，他已預(yù)示互聯(lián)網(wǎng)的誕生，“地球村”一詞正是由他首先采納。? The Paris Review
-這我真不知道。
-他皈依了天主教，并相信天主教信仰是最終的媒體系統(tǒng)。因為你總是在交流，對吧？與圣人，與已故的人，當然還有上帝。通過祈禱和冥想——這些靈性形式——結(jié)合在一起，看到這種想法如何滲透到他對媒體的思考中，真是令人著迷。他著迷于通過信息網(wǎng)絡(luò)將整個地球團結(jié)起來的想法。
-他不是寫過最后我們會變成信息嗎？那聽起來像是某種網(wǎng)絡(luò)化的圣餐。
完全正確。當你考慮到技術(shù)時，它有點神秘，對吧？我不認為這完全是一個瘋狂的想法。很多人都在用這種方式討論新興技術(shù)，尤其是當他們試圖理解人工智能時——比如，它是否具備某種精神層面？我認為這其中是有原因的。所有這些技術(shù)都是人類創(chuàng)造的形式，在基督教中，我們被要求與上帝共同創(chuàng)造；他賦予了我們這種創(chuàng)造的能力。
-所以你認為互聯(lián)網(wǎng)是人類集體想象的延伸。與其將其看作是市場驅(qū)動的技術(shù)，你更原因?qū)⑵湟曌鲃?chuàng)造神話的工具。
你談到了人類學家克洛德·列維-斯特勞斯（Claude Lévi-Strauss）的觀念，即，我們同時生活在兩個不同的領(lǐng)域：現(xiàn)實世界，或者說是真相的領(lǐng)域，以及神話周期。這個概念如何適用于互聯(lián)網(wǎng)上的所有奇怪事物呢？
-列維-斯特勞斯的見解是，想象力對人類的生存非常有用，但到了19世紀和20世紀，就被忽視了。然而，我們?nèi)栽诰幑适?。好吧，這是為什么呢？如果你是一個完全理性的人，你應(yīng)該想要優(yōu)化生活的方方面面。為什么要浪費時間講故事和憑空捏造事物？這不是高效的。
特別是在21世紀，認為白日夢可能有用，簡直令人震驚。我們難道不應(yīng)該只是工作嗎？但列維-斯特勞斯認為，這兩種思考方式都很重要，它們相輔相成。
? The Boston Globe
-這很有趣，因為我們可能會想知道為什么我們要花費這么多人力去構(gòu)建一個模擬的虛擬世界——試圖在線上建立一個蹩腳的創(chuàng)作副本。但在我看來，你與列維-斯特勞斯的觀點是，互聯(lián)網(wǎng)是我們?nèi)祟悇?chuàng)造神話的動力所在。
也許魅力并沒有消失，而是悄悄地回到了我們互聯(lián)網(wǎng)創(chuàng)造的這片狂野、尚未成形的前沿。如果是這樣，那么所有那些小小的迷因都比我們想象的更有意義？
-我堅信這一點。當你審視幾個世紀以來的文化時，這并不奇怪。我們開發(fā)創(chuàng)新的新技術(shù)，并且不斷帶來“驚喜，驚喜！”——我們用它們來講述故事。我認為這在很大程度上被誤解了。
我的意思是，互聯(lián)網(wǎng)是用來做什么的？很多人仍然會說它是信息高速公路；你去那里是為了獲取事實并完成你的工作——這可以追溯到90年代互網(wǎng)絡(luò)泡沫時代的公司宣傳。但互聯(lián)網(wǎng)從來就不是這個意思。它更像是麥克盧漢對創(chuàng)意空間的愿景，在這里，我們可以與他人分享我們想象力的投射。
-這讓我想到我們一直在與錯誤的人談?wù)摶ヂ?lián)網(wǎng)。與其與技術(shù)大師和網(wǎng)絡(luò)政策專家交流，我們應(yīng)該轉(zhuǎn)向精神分析學家、人類學家和神學家——專注于思考我們講述的故事、以及講述這些故事潛意識動機的人。西格蒙德·弗洛伊德在網(wǎng)上會感到賓至如歸。
-是的，想想夢境吧。我的意思是，互聯(lián)網(wǎng)——尤其是通過這些創(chuàng)造性的人工智能技術(shù)——就像一個夢境，對吧？人類生活中有多少被編碼在這些人工智能的幻覺中？我認為在這方面有很多有趣的工作要做，但很少有人在研究。
-我最近讀到的另一個內(nèi)容——“復(fù)活的深度偽造”。“聊天機器人”或已故人物的復(fù)制品。這是一個迫切需要深入分析的話題。
-是的，這是一個很偉大的想法，人工智能實際上可以讓人重生。而且這是一個古老的想法，有點像19世紀末20世紀初流行的“靈異攝影”。攝影師在特效方面越來越精湛——是的，事實上，在暗房里可以編輯照片！他們發(fā)現(xiàn)，如果將底片曝光兩次，你可以得到兩張不同的圖像。因此，你可以讓某人坐下來拍攝肖像，然后將同一張底片曝光到他們失散已久的親人舊照片上，在二度曝光中，它會呈現(xiàn)出幽靈般的魅影。
? National Science and Media Museum
現(xiàn)在人們基本上也在使用“深偽”做類似的事情，對吧？人們有這種與已故親人保持聯(lián)系的沖動——我猜麥克盧漢可能對此會感到相當滿意。
-你讓我想到，詢問互聯(lián)網(wǎng)上的某事是真實的還是偽造的，似乎無關(guān)緊要。并不是說你對不道德行為表示贊同。但你的一個主要觀點是，網(wǎng)絡(luò)虛假信息所揭示的內(nèi)容比隱藏的內(nèi)容更多，是因為它們告訴了我們一些關(guān)于我們自己的信息。它們傳達了怎樣的信息？
-這是很多社會科學家試圖找到的一個大問題——一個概括性的解釋來歸納整個現(xiàn)象。但歸根結(jié)底，它只是在講故事。人們只是想要與其他人建立某種聯(lián)系。很多這些媒體對象都是為了人際交往。就像我想與你分享一些東西，我希望你了解我或我的社區(qū)的一些事情。