深度偽造在巴以沖突中扮演了重要的角色，包括篡改了約旦王后拉尼婭（左中）和時尚模特貝拉·哈迪德（右上）的視頻，以及俄烏沖突（左下）和電子游戲《武裝突襲3》（右下）的戰斗鏡頭。圖片插圖來源：FORTUNE ; 圖片來源：SCREENSHOTS CLOCKWISE FROM TOP LEFT: @GLOOOUD/X, VERIFY/YOUTUBE, @AG_JOURNALIST/X, @GLOOOUD/X, THE QUINT/YOUTUBE

2023年10月7日破曉時分，以色列的特拉維夫市響起了空襲警報，邁克爾·馬蒂亞斯（Michael Matias）和他的女朋友從床上跳起來，跑到公寓大樓的防空洞。在防空洞里，他們手機上的信息顯示了觸發警報的恐怖場景：哈馬斯的武裝分子正在向以色列發起大規模軍事行動，并且扣押了數百名人質，距離他們安全聚集的地方不到一個小時的車程。

在令人驚愕的余波中，馬蒂亞斯突然意識到這對他的科技新創企業的影響。2022年年底，他創辦了人工智能公司Clarity，專注于檢測競選活動中的深度偽造信息；他認為，這種虛假信息對國家構成了緊迫威脅。但由于在10月7日大約有1,200名以色列人喪生，而且該國正處于戰爭狀態，因此這一任務需要暫時擱置。那天早上，他與Clarity的團隊緊急召開會議，以啟動一項行動計劃。“我們對彼此說：‘在此次事件里，我們的技術將大有用武之地。’”Clarity的首席執行官馬蒂亞斯說道。

這次襲擊是以色列建國75年來最致命的一次，在之后的混亂中，以色列對加沙地區進行了封鎖，切斷了區域內的一切水、電、物資供應，并向沿海飛地（居住著200萬名巴勒斯坦人）的哈馬斯目標投擲了數千枚炸彈。隨著以色列的行動升級，出現了全面的人道主義災難，在一個月內有超過10,000名巴勒斯坦人喪生，其中包括平民，恐怖的畫面充斥著電視和手機屏幕，引發了全世界的憤怒和抗議活動。這不僅是一場彈藥戰爭，而且是一場信息戰爭——真假信息混雜。在對交戰雙方義憤填膺的同時，一些人質疑這些令人毛骨悚然的可怕場景是否真實，或是這些圖像是否是在人工智能的助力下生成的所謂深度偽造圖像。

事實上，隨著技術的進步，人工智能生成的虛假信息越來越難以辨別。馬蒂亞斯表示，這讓Clarity這樣的新創企業陷入了“一場貓和老鼠的博弈”。

問題是，最后是貓贏，還是老鼠贏？一些人擔心，生成技術的便利性會讓惡意用戶比那些遠不是那么靈活的科技公司和試圖控制他們的政府智高一籌。常駐英國劍橋、為英國政府以及包括Adobe和Facebook的母公司Meta在內的企業提供咨詢服務的人工智能技術顧問亨利·艾德爾（Henry Ajder）說：“該技術的發展速度快得令人難以置信。20年或10年后會是什么樣子？這些工具將變得越來越容易獲得。當確實發現大量的深度偽造內容時，我們可能會全然不知所措。”

俗話說，軍事宣傳和戰爭本身一樣古老。但自從OpenAI在2022年推出第一版人工智能聊天機器人ChatGPT以來，生成式人工智能爆炸性的流行增強了普通用戶創造自己敘事的能力。當涉及到教皇方濟各（Pope Francis）身穿白色大號羽絨服或者金·卡戴珊（Kim Kardashian）擔任公交車司機時，其影響相對微不足道。但在戰爭里，深度偽造技術可以用來制造混亂，可能會產生生死攸關的后果。

2022年2月，俄烏沖突爆發，引發了歐洲幾代人以來最大規模的陸地沖突。幾天之內，烏克蘭總統弗拉基米爾·澤連斯基（Volodymyr Zelensky）在Facebook上露面，命令士兵投降。幾天后，俄羅斯總統弗拉基米爾·普京（Vladimir Putin）在推特（Twitter）上也命令軍隊放下武器。抽搐的動作和模糊的鏡頭很快就暴露了這兩段視頻是虛假的。但這預示著，一旦人工智能工具得到改進，有朝一日可能會發生的事情。

現在，這一天已經到來，無論是在政府辦公室還是在家里，都能夠輕松地獲得生成式人工智能工具。這項技術帶來了大量經過篡改的內容，而這些內容以前需要熟練的技術人員才可以制作出來。大西洋理事會（Atlantic Council）的數字取證研究實驗室（Digital Forensic Research Lab）的研究人員萊拉·馬什庫爾（Layla Mashkoor）稱，在以色列戰爭中，這些內容來自四面八方。該實驗室隸屬于一家密切追蹤沖突中的社交媒體網站的美國智庫。她指出，雙方人士都在傳播深度偽造內容，她舉例道，一個親以色列的Instagram賬戶里有一張人工智能處理過的照片，顯示成群的以色列人在陽臺上為士兵歡呼。對許多人而言，手機屏幕上閃過的如海嘯般襲來的信息讓一切都顯得不可靠。馬什庫爾說：“即便是真實的圖像，也會有反駁的聲音，所以人們很難弄清楚真相。”

當馬蒂亞斯為他的人工智能新創企業取名Clarity時，這正是他想要解決的問題。戰爭爆發后，團隊立即行動起來。據馬蒂亞斯介紹，隨著數以百計的視頻和照片在互聯網上流傳，其中一些是哈馬斯在襲擊期間拍攝的，還有一些是加沙居民在遭到摧毀的社區拍攝的，國際媒體機構開始給Clarity發送電子郵件，尋求幫助，以剔除深度偽造的視頻和照片。馬蒂亞斯拒絕讓《財富》雜志透露他的客戶信息。

這場戰爭在網上催生了大量的假新聞：時裝模特貝拉·哈迪德（Bella Hadid）為她的親巴勒斯坦言論道歉的視頻實際上是合成音頻。約旦王后拉尼婭（Rania）說她的國家“與以色列站在一起”，這是在她露面接受美國有線電視新聞網（CNN）采訪的視頻基礎上，利用人工智能生成的音頻。一段據稱是哈馬斯的戰士摧毀以色列坦克的視頻，實際上來自俄烏沖突。另一段顯示哈馬斯擊落兩架以色列的直升機的視頻呢？那是從電子游戲《武裝突襲3》（Arma 3）中截取的。

總部位于美國加利福尼亞州帕洛阿爾托和以色列特拉維夫的Clarity還在戰爭里與以色列的情報機構合作，以檢測戰爭錄像的真假。幾乎所有的Clarity團隊的成員，包括馬蒂亞斯在內，都在義務服兵役期間，在以色列國防軍（Israeli Defense Forces）的精銳技術部隊中花了數年時間磨練技能。馬蒂亞斯本人曾經在被稱為“8200部隊”的情報機構服役（人才選拔極其嚴格），該機構的成員在服兵役后創辦了無數的全球新創企業。

憑借這樣的背景，馬蒂亞斯利用經驗豐富的創始人網絡為公司提供建議和資金。Clarity的一位天使投資人烏迪·莫卡迪（Udi Mokady）說：“Clarity正在一個新的領域進行創新。”莫卡迪也是“8200部隊”的退伍軍人，他創立了身份安全公司CyberArk。莫卡迪現在是CyberArk的執行主席，他預測深度偽造檢測市場將急劇上升。莫卡迪稱：“隨著ChatGPT的出現，人們對它的興趣一夜之間急劇上升：在家里就能夠創建深度偽造內容。”

Clarity并沒有對內容進行純粹的真假認證，而是使用人工智能來追蹤視頻中的一系列數據點，例如一個人的面部抽搐或語調的抑揚頓挫，然后利用神經網絡將它們置于儀表板上顯示的從綠色到紅色的確定性范圍內。“這是人工智能與人工智能的較量。”馬蒂亞斯說道。有些視頻，比如伊朗支持的（黎巴嫩）真主黨（Hezbollah）組織領導人譴責10月7日襲擊事件的視頻，顯然是深度偽造的內容（“遺憾的是”馬蒂亞斯打趣道）。但其他視頻就不那么一目了然了，需要人工進行判斷，而不是由人工智能訓練出來的機器進行判斷。

在打擊深度偽造內容方面，Clarity并非孤軍奮戰。過去幾年里，還有幾家類似的新創企業相繼成立，包括美國紐約的Reality Defender和愛沙尼亞的Sentinel。科技巨頭也在關注假新聞問題：從2024年1月開始，Meta將要求政治競選活動在Facebook的廣告中標注任何人工智能生成的內容，而谷歌現在也包含了有關圖像來源的數據。

各國政府也在努力打擊深度偽造。2023年10月，美國總統喬·拜登（Joe Biden）發布了一項關于“安全、可靠和值得信賴”的人工智能的行政命令，授權美國商務部（Commerce Department）尋找方法來驗證內容的真實性，并在人工智能生成的媒體內容上添加水印。但該行政命令并沒有威脅要對違規者實施制裁。

同樣是在2023年10月，在包括中國在內的28個國家參加的、在英國舉辦的首屆全球人工智能安全峰會（AI Safety Summit）上，官員們同意采取類似的措施。在由27個國家組成的歐盟（European Union），一項旨在執行安全標準并為新創企業提供資金的《人工智能法案》（AI Act）正在逐步通過錯綜復雜的程序，歐盟的高層官員希望對未能打擊虛假信息的社交媒體平臺處以巨額罰款。

“越來越多的國家達成的共識是：人工智能會帶來災難性的風險。”英國人工智能顧問艾德爾表示，“他們希望避免我們在過去18個月里看到的‘狂野西部’（Wild West）局面持續下去，從某種程度上說，風險會進一步加劇。”

但其中的風險無法和以色列對加沙地區發動的激烈戰爭相提并論，美國的軍艦駐扎在靠近海岸的地方，伊朗和黎巴嫩也為可能發生的戰爭做好了準備。在長達數周的戰爭里，Clarity團隊一直在努力解決這一問題，同時分析了讓他們筋疲力盡的數百個視頻和照片。

經常觀看令人毛骨悚然的視頻對Clarity的小團隊的影響是顯而易見的，馬蒂亞斯稱，在戰爭結束后，他們肯定需要進行創傷后治療。他說：“我們知道，我們正在進入一場高度個性化的戰爭。”他補充道，這項工作讓他的團隊感到“沉重的情感負擔，以及令人難以置信的重要性意識。”

*****

偵探力量

隨著深度偽造內容的激增，企業巨頭和新創企業都在競相對其進行監測。以下是一些參與其中的公司：

?

DeepMedia

該公司由斯坦福大學（Stanford University）和耶魯大學（Yale University）的人工智能專業的畢業生于2017年創立。該公司總部位于美國加利福尼亞州奧克蘭，與美國國防部（U.S. Department of Defense）、聯合國（United Nations）和科技公司合作，利用神經網絡處理技術發現虛假內容。

?

Reality Defender

這是一家總部位于美國紐約州紐約市曼哈頓的公司，由高盛集團（Goldman Sachs Group）的前高管本·科爾曼（Ben Colman）于2021年創立，他表示，在深度偽造內容病毒式傳播之前阻止它至關重要。該公司在2023年10月的一輪融資中籌集了1,500萬美元，旨在推出能夠實時識別合成語音的新工具。

?

英特爾（Intel）

該公司在2022年推出了一款名為FakeCatcher的深度偽造內容檢測器，據稱可以實時分析視頻，并在幾毫秒內提供準確率高達96%的檢測結果。其中一種罕見的工具是分析像素中的血流，從而判斷圖像是否描繪的是真人。

譯者：Zhy