Deepfakes：定義、類型與關鍵範例

隨著 AI 被廣泛用於改變各行各業，Deepfakes 已成為一種全球現象，正逐漸模糊真實與操弄內容之間的界線。根據調查，超過半數組織員工未接受有關 deepfake 風險的適當訓練。同時，仍有 4 分之 1 的領導者尚未意識到這些稱為 deepfakes 的複雜偽造內容，而此類事件在全球每五分鐘就會發生一次。在這樣的情勢下，Deepfake 防禦已不再是可有可無的選項，企業需要了解什麼是 Deepfakes，以及如何加以緩解。

因此，讓我們先從 Deepfakes 的定義開始，以及它們如何在媒體與安全領域產生如此巨大的影響力。接著，我們將討論其歷史演變、各種形式、建立方式與偵測方法。然後，我們將說明真實世界中的使用案例，包括正面與負面的情境，以及未來展望與 deepfake 防護建議。最後，我們將討論如何保護組織免受這些複雜操控的影響，並分析一些關於網路安全中什麼是 deepfake 的最常見問題。

什麼是 Deepfakes？

Deepfake，本質上是由 AI 模型建立的合成媒體（通常為影片或音訊），用來以近乎詭異的逼真程度模仿真實人物的臉部、聲音或動作。這些系統使用深度學習框架，特別是生成對抗網路（GANs），讓兩個神經網路彼此對抗，其中一個負責產生偽造內容，另一個則評估其真實性。生成器會在多次迭代中持續改進其輸出，直到成功欺騙判別器，進而建立高度逼真的假象；如果最終成品看起來與真實影像無法區分，通常會被稱為最佳 Deepfake。

它們有時可能帶有喜劇效果或創意性，但也可能被用於惡意的身分盜用或錯誤資訊散布。根據 2023 年的一項調查，Deepfakes 已成為首要的網路安全挑戰，該調查記錄到有 92% 的高階主管對生成式 AI 的濫用抱持「重大疑慮」。

Deepfakes 的影響

正如下文文章中我們將看到的幾個例子所證明，Deepfake 內容具有危險性，且可被用於各種攻擊，從小規模的名譽損害到大規模的錯誤資訊散布。令人不安的數據顯示，2023 年用於身分驗證的 deepfake 換臉詐欺增加了 704%，顯示犯罪分子如何利用 AI 進行身分盜用。以下是 Deepfakes 形塑當前風險範式的五種重要方式。

1. 對視覺證據信任度的下降：多年來，影片一直被視為幾乎無可置疑的證據。如今，已經可以將一個人的頭部或聲音替換到另一個人的身體上，這意味著人們所看到並視為證據的內容甚至可能不是真實的。這些假象使觀眾對真實片段產生懷疑，因此也質疑新聞報導或片段中呈現的供詞之真實性。隨著真實性的瓦解，「什麼是 deepfake，什麼是真實？」這個問題已成為司法與公眾領域中的重大議題。
2. 名譽損害與人格抹殺： 一段片段可能描繪目標人物說出挑釁性的話語或做出某些不當行為。當它被發布到網際網路上時，會在為錯誤資訊道歉之前的短時間內迅速傳播。即使畫面被證明是偽造的，懷疑仍然存在，而該管道的公信力也會受損。如今已可見，多數用於政治抹黑活動的 Deepfakes 顯示出，幻象凌駕於實際言論之上的速度有多快。
3. 社交工程與企業詐欺： 企業因 deep fake 通話或影片欺騙員工轉移資金或洩露資訊而蒙受金錢損失。在這種手法之下，攻擊者仰賴員工對聲音或外貌看似合法使用者的信任，以取得對請求的核准。在以身分為基礎的驗證中，如果身分遭到破壞，整個供應鏈或財務流程都將面臨風險。這顯示 deepfake 技術是對既有社交工程技術的強化。
4. 助長假新聞： 極端團體可以錄製其領袖支持假新聞議程的影片，或偽造新近外洩的文件以製造分裂。在這種情況下，這些幻象會在社群平台上散布，而人們會在事實查核組織介入之前分享假新聞。等到某段片段被證偽時，它已經影響了數千人。這點尤其成立，因為 deepfake 內容本質上具有病毒式傳播特性，並可能造成重大的政治或社會動盪。
5. 身分驗證與認證攻擊： 作為生物特徵辨識方法的人臉或語音辨識，對 Deepfakes 高度脆弱。它可被用來建立偽造的換臉影片，以通過 KYC 流程，或解鎖某人的手機或其他裝置。這就是為什麼身分盜用增加，進而促使其他解決方案整合活體偵測或微表情分析。「AI deepfakes」幻象出現在驗證領域中，對核心網路安全層構成威脅。

Deepfake 與 Shallowfake

並非所有遭到操弄的影片都需要複雜的 AI。「Shallowfake」指的是較簡單的編輯工具，例如放慢或加快片段。另一方面，Deepfake 方法則使用先進的神經網路，使結果更加逼真。Deepfakes 涉及使用深度學習框架來複製臉部、聲音，甚至整個身體，達到近乎毫無瑕疵的程度。它們能維持一致的光線、清晰的臉部動作，並調整目標的臉部表情。由於精密的資料處理，這些假象甚至可能欺騙謹慎的觀眾。其顯著特徵是先進的分層處理與生成式建模，以建立真正栩栩如生的輸出。

然而，「shallowfake」更可能涉及手動剪輯、慢速或加速技術，或簡單的編輯濾鏡。如果觀看者不知道該片段是被加速或被人為重新脈絡化，這可能會造成誤導。Shallowfakes 較容易被識破，但在散布部分真相或喜劇式幻象方面仍可能非常有效。雖然比 deep fake 幻象更不先進，它們在錯誤資訊與媒體操弄中仍有其位置。

Deepfakes 技術的歷史

Deepfakes 的根源可追溯至深度學習的突破與開源協作，這些因素促成了換臉創新的爆發。人臉操控實驗已存在數十年，但現代神經網路將真實感提升到令人震驚的程度。

有一項預測指出，到 2026 年，30 percent of enterprises將不再完全依賴身分驗證作為信任基礎，原因在於 AI 式偽造技術的躍進。

1. 早期實驗與臉部移植： 在 1990 年代，CGI 專家曾嘗試用早期、粗略的手工動畫換臉技術製作電影特效。儘管工具變得更先進，結果看起來仍不自然，且需要手動編輯影格。電腦科學研究人員曾測試用於變形的機器學習，但硬體限制阻礙了進一步進展。雖然這個概念成為 Deepfakes 的基礎，但真正的突破直到更大的資料集與強大的 GPU 運算可用後才出現。
2. 生成對抗網路（GANs）： GANs 由 Ian Goodfellow 於 2014 年提出，並徹底改變了合成媒體。生成器與判別器之間的反覆回饋迴圈精煉了合成人臉。這啟發了高度精緻的幻象。隨著先前的手動限制被解除，創作者得以看到「best deepfakes」如何複製先前無法達成的微表情與光線細節。
3. 社群與 Reddit 的普及化：Deepfake 大約在 2017 年進入大眾視野，當時各個 subreddit 開始流傳名人的換臉內容，有些很有趣，有些則完全不是如此。因此，人們發現開源程式碼與消費級 GPU 如何讓偽造技術普及化。Deepfakes 平台禁止非自願內容，但「Deepfakes 精靈」已經被放出來了，外面有無數分支版本與新的易用介面。這凸顯了圍繞著輕易操控人臉的倫理困境。
4. 商業工具與即時進展： 如今，應用程式與商業解決方案只需極少的使用者輸入，就能處理大規模換臉、對嘴同步或語音複製。其他則是用於串流或視訊會議惡作劇的即時幻象。與此同時，工作室正持續精進 deepfake AI 技術，以在電影中重現演員，或無縫地將內容在地化。然而，隨著使用量激增，企業與政府機構開始意識到滲透與宣傳可能構成威脅。
5. 監管回應與偵測工作： 世界各地的政府不是正在提案，就是正在制定法規，以禁止將 deepfakes 用於惡意目的，尤其是在誹謗或詐欺案件中。同時，科技公司正與人工智慧科學家合作，以改善社群媒體上的 deepfake 偵測。然而，這導致一種貓捉老鼠的局面：一方開發新的偵測方法，另一方則發明新的 deep fakes 生成方式。預計未來在創造力與日益嚴重的 deepfake 網路安全威脅問題之間，將持續存在對抗。

Deepfakes 的類型

雖然換臉影片經常登上頭條，但 deep fake 引言有多種形式，從音訊冒充到全身重演皆有。了解每一種類型有助於理解可能遭受濫用的範圍。

接下來，我們將分類說明 Deepfakes 的含義在日常媒體與進階安全情境中所涵蓋的主要類型。

1. 換臉影片： 最具代表性的版本是將某個對象的臉覆蓋到另一個人的動態身體上。神經網路擅長追蹤表情，並逐影格進行匹配，以產生逼真的幻象。其中一些 deep fake 影片是趣味迷因，另一些則是惡意騙局，可能毀掉名譽。即使是有辨識力的觀眾，在沒有進階偵測工具的情況下，也可能被高擬真細節所迷惑。
2. 對嘴同步與音訊疊加： 對嘴偽造有時被稱為「puppeteering」，會替換嘴部動作以配合合成或遭操控的音訊。結果是什麼？說話者從未真正說出那些話，但看起來卻像是說過。若再結合語音複製，片段中的「臉」就能令人信服地演出完整腳本。
3. 純語音複製： 音訊 deepfakes 完全基於 AI 語音的複製，沒有任何視覺內容。詐欺者會在電話詐騙中部署這類技術，例如冒充高階主管以指示緊急電匯。有些人則會為行銷噱頭製作「名人客串」配音。這類 deepfake 很難辨識，因為它沒有視覺線索，且需要進階頻譜分析或可疑情境觸發因素。
4. 全身重演： 生成模型可以擷取演員的整體姿勢、動作與手勢，並將其映射到另一個人身上。最終結果是一個看似在跳舞、運動或執行某些任務，但實際上從未做過這些事的對象。電影或 AR 體驗需要全身幻象。然而，deepfake 網路安全最擔憂的是偽造「不在場證明影片」或安排好的證據之可能性。
5. 基於文字的對話複製： 雖然不像 deepfakes 那樣經常被提及，生成式文字系統會模仿個人的寫作風格或聊天方式。網路犯罪分子會建立新的訊息串，模仿使用者的語言與寫作風格。當語音或影像被加入這種假象時，就能建立多層次的偽造內容，甚至是完整的 deepfakes 角色。可以預見的是，隨著以文字為基礎的生成式 AI 複雜度持續提升，它的用途將不僅限於影像偽造，還會被用於透過訊息平台進行的社交工程攻擊。

Deepfake 如何運作？

Deepfake 的基礎建立在強大的資料蒐集、模型訓練與幻象精修流程之上。犯罪分子正利用生成式 AI進行詐騙，而研究顯示，金融科技領域的 deepfake 事件成長了 700%。

透過了解此流程，企業可以理解其中的弱點與潛在的因應對策。

1. 資料蒐集與前處理：創作者會蒐集目標人物的大量影像或音訊資料庫，通常來自社群媒體、訪談或公開檔案。角度、表情或語音樣本越多樣，最終的 deepfake 就越逼真。接著，他們會將影格正規化、統一解析度，並標記相關特徵點（例如眼睛、嘴型）。為此，這種整理可確保神經網路在不同訓練步驟中看到一致的資料。
2. 神經網路訓練：像 GAN 這類對抗式學習框架是 AI 式幻象的核心，因為它們會精修每個生成的影格或音訊片段。它會試圖欺騙一個負責批判真實性的判別器。經過多次迭代後，生成器便能打磨輸出，使其符合真實世界中的細微差異，例如眨眼模式或語調起伏。這種協同作用造就了 deepfake 現象，進而產生近乎無瑕的偽造內容。
3. 臉部/語音對齊與扭曲：一旦系統學會如何複製目標的臉部或聲音特徵，就會將其套用到真實影片中第二個人的頭部、身體或語音軌上。為了確保與參考片段同步，會進行嘴唇、眼睛或動作對齊。對於音訊，波形分析會將目標的語音音色與基礎音軌的時間點融合。任何可能暗示 AI deepfake 的細微瑕疵或色彩不一致，都會透過後製加以修正。
4. 後期製作與最終渲染：在最後修飾階段，創作者通常會將輸出的影格或音訊交由編輯工具處理，以平滑邊緣、匹配光線或調整音高。有些人甚至會刻意降低影片品質，使其看起來像是一般智慧型手機錄影中可能出現潛在 deepfake 的那種典型畫面。當製作者滿意後，便會將內容發布到社群平台或傳送給收件者。最終結果看似真實，因而引發警覺，並促使外界要求更強化的偵測方法。

如何建立 Deepfake？

儘管存在多項爭議，許多人仍有興趣更深入了解這個概念，以建立 DeepFakes。如今，任何人都可以透過易於使用的軟體與開源模型偽造進階幻象。以下我們將說明業餘愛好者與專業人士常用的方法，展示這類惡意內容是多麼容易出現。

1. 換臉應用程式：市面上有各種消費級工具，讓新手只需付出有限心力，就能透過手機或 PC 製作換臉內容。這類軟體會在上傳兩段影片（一段來源、一段目標）後，自動完成訓練與融合。然而，若出於惡意目的使用，這類應用程式也可能被用於身分偽造。這種普及化同時助長了娛樂性的趣味用途與嚴重的 deepfake 濫用。
2. GAN 框架與開源程式碼：進階成果可透過 TensorFlow 或 PyTorch 等框架取得，並搭配用於臉部或語音偽造的專用儲存庫。熟悉網路架構、訓練參數，甚至資料組合的研究者，可以量身打造網路架構、微調訓練參數，或整合多個資料集。最佳的 deepfakes 可透過此方法實現，但這需要更多硬體（GPU）與程式設計專業知識。這可大幅提高欺騙門檻，因為它能夠將幻象微調到超越現成預設值的程度。
3. 以音訊為基礎的幻象：專注於音訊式幻象的創作者會使用語音合成指令碼，並將其與唇形同步模組結合，以呈現逼真的嘴部動作。系統可利用語音樣本進行訓練，並以目標人物的口音或說話習慣生成新的語句。為了確保視覺效果與每個發音音素相符，系統會提供唇部動作對齊。這些「deepfake 唇形同步組合」能夠打造出準確得令人震驚的「會說話頭像」幻象。
4. 雲端式渲染服務：部分商業 deepfake 供應商或 AI 工具廠商能夠在遠端伺服器上處理繁重的模型訓練工作。使用者只需提交資料集或指令碼參數，然後等待最終輸出即可。如此一來，本機 GPU 的限制被排除，大型或複雜的幻象也能在強大的基礎架構上執行。另一方面，這也讓進階偽造內容得以快速下單，進而引發對 deepfake 網路安全的疑慮。
5. 手動疊加與混合式編輯：之後，即使已生成基於神經網路的人臉映射，創作者仍會使用 Adobe After Effects 等軟體手動精修影格。他們會處理邊界瑕疵、調整光線，或加入 shallowfake 拼接，以盡可能降低轉場瑕疵。AI 生成內容與熟練後製的結合幾乎天衣無縫。最終產出的是一種 deep fake，能輕易將虛假的主體置入任何場景，從搞笑短劇到惡意冒充皆可。

如何偵測 Deepfake？

隨著這些幻象愈來愈逼真，偵測這門技術與科學也變得更加困難。鑑於有一半的網路安全專業人員缺乏正式的 deepfake 訓練，組織正面臨成為高風險詐騙或假訊息受害者的危險。以下是一些經驗證有效的小節方法——包括人工與 AI 式方法——可用於 deep fake 偵測。

1. 人工觀察與情境線索：進階幻象仍有其極限，而像是眨眼不一致、奇怪的陰影或嘴角不匹配等因素，都可能引發懷疑。觀察者也可能在主體轉頭時尋找不自然的臉部「轉換」痕跡。可透過檢查背景或時間戳記來交叉驗證可疑的編輯。人工檢查並非萬無一失，但仍是快速辨識 deepfake 的第一道防線。
2. 鑑識 AI 分析：專門訓練用於偵測合成瑕疵的神經網路分類器，可以分析像素層級模式或頻域。系統會透過比較正常臉部特徵分布與可疑影格，標記不自然的對齊或色彩陰影。某些解決方案會利用時間性線索，例如追蹤跨影格的微表情。隨著 AI deepfake 幻象持續進步，這些偵測演算法也必須在這場永無止境的軍備競賽中持續演化。
3. 中繼資料與 EXIF 檢查：如果檔案含有中繼資料，建立時間戳記往往與檔案時間戳記不符、裝置資訊錯誤，或存在編碼與重新編碼的痕跡。有些進階幻象也會移除 EXIF 資料以隱藏痕跡。雖然多數合法片段的中繼資料品質不佳，但突然出現的差異仍暗示可能遭到竄改。這種方法可作為更深入分析的補充，特別適用於企業或新聞驗證。
4. 即時互動（活體檢查與動作追蹤）：透過即時互動，例如在即時視訊通話中能否自發做出反應，可以揭露或確認這些幻象。如果 AI 無法足夠快速地適應，就會出現延遲或臉部故障。一般而言，活體偵測框架依賴微小肌肉動作、頭部角度或隨機眨眼模式，而偽造內容很少能持續一致地模仿這些特徵。其他身分識別系統則要求使用者以特定方式移動臉部，若影片無法跟上，deepfake 就會曝光。
5. 交叉比對原始影片：如果可疑片段聲稱某人在特定活動現場，或說了某些話，查核官方來源即可證實或推翻其說法。我們經常能在新聞稿、其他攝影角度或官方聲明中發現內容不符之處。這種方法結合了標準事實查核與 deep fake 偵測。在病毒式謠言盛行的時代，主流媒體如今仰賴這類交叉查核來維持公信力。

Deepfake 的應用

雖然 deepfake 經常以負面角度被討論，但它們也可用於在不同產業中產生有價值或創新的成果。Deepfake 的應用不僅限於惡意偽造，也包括創意藝術與專業工具。

以下列出五個主要範例，說明若以合乎倫理的方式使用，AI 式幻象如何能兼具實用性與娛樂性。

1. 電影中的數位復活：製片公司有時會讓已故演員「復活」來客串演出，或在不重新選角的情況下重拍場景。AI deepfake 模型會掃描歷史影像資料並重建臉部表情，然後無縫整合到新的電影情境中。這項技術對經典明星懷有高度敬意，即使它也引發了真實性與演員權利的問題。但若以尊重的方式使用，它便能將懷舊情感與先進 CG 技術結合。
2. 逼真的語言在地化：例如，電視台或串流服務會使用臉部重動畫技術，讓配音與演員的唇部動作同步。Deepfake 方法取代了標準配音作法，讓螢幕上的明星直接說出當地語言，從而對齊嘴型。這能提升全球觀眾的沉浸感，並降低重新錄製的成本。雖然這個概念在小眾圈子中可能偏向喜劇新奇用途，但大型內容平台已看見其全球發行的潛力。
3. 企業訓練與模擬：有些公司會建立客製化 deep fake 影片，用於政策訓練與內部安全宣導。它們可能展示 CEO 發表個人化激勵短片，或以員工真實臉孔呈現「錯誤示範」情境。雖然這種做法有操控之嫌，但確實能提升參與度。只要清楚標示，它確實有助於說明「企業情境中的 deepfake 是什麼」，也就是利用幻象來傳達實用教訓。
4. 個人化行銷活動：品牌正嘗試使用 AI 幻象，以姓名向使用者致意，或讓品牌大使重複客製化台詞。他們利用進階臉部映射來微調受眾參與度，並將娛樂與行銷連結起來。Deep fake 的商業化遊走於新奇與侵擾之間的微妙界線，對某些人而言引發興趣，對另一些人而言則引發對隱私與真實性的疑慮。
5. 歷史或文化博物館中的敘事：博物館或教育工作者可以讓歷史人物（Abraham Lincoln 或 Cleopatra）在沉浸式展覽中動起來並發表獨白。這些 deepfake 的目的在於教育，而非欺騙，因此會搭配免責聲明。觀眾得以看見「活歷史」，並與過往事件建立情感連結。各組織會謹慎控管這類幻象的使用，以激發好奇心，並在古老紀錄與現代觀眾之間搭起橋梁。

Deepfake 通常如何被使用？

深偽技術有其正當或創意用途，但更常見的問題是：「深偽技術在現實生活中如何被使用？」這項技術非常容易使用，因此正被廣泛採用，這也意味著其用途從搞笑換臉到惡意身分盜用皆有。

以下，我們將指出促成全球對 AI 中深偽技術是什麼之討論的常見使用情境。

1. 搞笑換臉挑戰： TikTok 或 Reddit 是各種搞笑換臉挑戰的場所，使用者會將自己疊加到舞蹈套路或爆紅電影場景中。這些趣味幻象很快就會爆紅，並成為進入主流流行文化的最佳深偽內容。在大多數情況下雖然無害，但即使是搞笑用途，若未加註標示，也可能在無意間引發錯誤資訊。這種現象說明了人們在日常生活中對幻象的隨意接受。
2. 未經同意的色情內容： 當加害者未經同意，將個人（通常是名人或前伴侶）置入露骨影片時，更黑暗的一面便浮現。這種特定的隱私侵犯將深偽技術武器化，用於性羞辱或勒索。這些內容會在可疑平台上散布，難以被下架。社會討論仍然十分激烈，許多人要求嚴格的法律介入，以遏止此類濫用剝削。
3. 詐騙性商業通訊：其中一個例子是接到一通看似來自已知合作夥伴的電話，實際上這是精密的深偽語音複製。攻擊通常被安排成付款明細的最終變更或緊急財務行動。這些幻象成功繞過了一般電子郵件或簡訊中的警訊，因為員工依賴的是「語音辨識」。但隨著這項技術日益成熟，這種 sentinel deepfake 情境正越來越常見地出現在企業風險登錄中。
4. 政治誹謗與宣傳： 在數個國家的選舉中，遭操弄的演說已被用來讓候選人看起來無能、腐敗或充滿仇恨。一段短暫爆紅的片段，可能在官方管道將其揭穿為不真實之前，就已形成輿論。這種做法進行迅速，利用了「震撼效果」與以分享為導向的社群媒體。這種用途具有「deepfake video potency」，會破壞自由討論與選舉完整性。
5. AI 驅動的諷刺或藝術表達：雖然 deepfake 技術存在負面用途，但有些藝術家和喜劇演員正藉由喜劇短劇、短片和詮釋舞蹈來娛樂觀眾。這些藝術作品會標示為 deepfakes，讓觀眾知道所呈現的內容純屬虛構。這類娛樂形式為創作者提供了描繪未來的機會，例如透過音樂劇，將歷史人物描繪成生活在當代。這些藝術家透過以創意方式使用 generative AI 及其可能性，成功幫助人們對其產生更熟悉的認識。

深偽威脅與風險

如果這種威脅足以左右觀點、損害聲譽或耗損企業資金，組織就需要清楚掌握其底層威脅。

在本節中，我們將剖析五項主要的深偽威脅與深偽風險，以提高對進階偵測與政策措施的重視。

1. 合成語音來電： 網路犯罪分子使用來自「高階主管」或「家人」的合成語音來電，向受害者施壓，要求其立即採取行動（通常是匯款或洩露資料）。熟悉的面孔或聲音具有情感上的可信度，會略過正常的懷疑。當這兩個元素結合時，就會擾亂標準的身分檢查。如果員工依賴最低限度的語音式驗證，那麼企業面臨的風險就很高。
2. 進階宣傳或影響力行動： 公眾人物可能被呈現為支持極端意識形態，或偽造其從未建立的聯盟。不穩定地區中的幻象會煽動動亂或恐慌，並引發暴動或削弱對政府的信任。當這些偽造內容遭到譴責時，公眾情緒往往已經被左右。這是對廣播媒體真實性的攻擊，也使全球「deepfake cybersecurity」策略變得更加緊迫。
3. 抹黑合法證據： 相反地，被指控者可能會將真實的不當行為影片否認為「deepfake」。這種現象的問題在於，它會威脅法律體系，因為可信的影片證據可能被「假新聞」的說法掩蓋。然而，這也將責任轉移到複雜審判程序中的鑑識專家身上。隨著時間推移，「deepfake denial」可能成為嚴重刑事或民事爭議中的狡猾辯護策略。
4. 股價操縱： 一段關於虛假收購或聲明的 CEO 影片，可能在真正的澄清進入新聞之前，就讓股價上漲或下跌。攻擊者會利用社群媒體的病毒式傳播，以及接近交易時段的時機幻象。由於這種混亂，市場會出現恐慌或狂熱，而內部人士則有機會放空或做多股票。這類操縱是深偽資安疑慮的一個子集，可能對金融市場造成災難性影響。
5. 降低對數位通訊的信任： 一旦幻象充斥於數位媒介中，員工與消費者就會對 Zoom 通話與新聞簡報產生懷疑。團隊若對例行工作要求面對面驗證或多因素身分檢查，將會損害生產力。更廣泛的「deepfake risks」情境會侵蝕對數位生態系的信任，並要求組織與平台共同推動內容驗證解決方案。

深偽技術的真實世界案例

除了理論層面之外，深偽技術已出現在全球多起備受矚目的事件中。這些幻象帶來了實際後果，從搞笑的 YouTube 模仿影片到精密的企業詐騙皆然。

以下整理了一些案例，說明深偽技術的案例如何在現實中影響各個領域。

1. 涉及 Elon Musk 的深偽詐騙： 2024 年 12 月，出現了一段 Elon Musk 的假影片，聲稱他正在贈送 價值 2,000 萬美元的加密貨幣。影片看起來像是 Musk 正在宣傳這項贈送活動，並敦促觀眾匯款以參與。這則假消息隨後在各種社群媒體帳號上被分享，許多人信以為真。這起事件引發了對深偽技術可能被用於實施詐騙，以及培養更佳辨識真實與虛假資訊意識之重要性的質疑。
2. Arup 工程公司的深偽事件： 2024 年 1 月，總部位於英國的 工程顧問公司 Arup 成為一起進階深偽詐騙的受害者，導致公司損失超過 2,500 萬美元。該公司員工在一場視訊會議中遭遇深偽詐騙，冒充其財務長與其他員工的人授權了數筆匯往香港銀行帳戶的交易。此事件顯示深偽技術對企業組織構成嚴重威脅，也說明組織有必要採取更完善的安全措施。
3. Joe Biden 的深偽自動語音來電： 2024 年 1 月，一通 假的自動語音來電 冒用總統 Joe Biden 的名義，意圖勸阻民眾在新罕布夏州初選中投票。這段音訊片段通常只需 1 美元即可製作，其目的在於影響數千名選民，並引發了關於選舉公平性的辯論。當局得以追查到這通電話與一名對學校行政部門懷有不滿的人有關，這也顯示深偽技術如何被用來影響政治事件。
4. 涉及 Jay Shooster 的語音克隆詐騙：  2024 年 9 月，詐騙者僅使用 Jay Shooster 最近在電視上露面時的 15 秒語音樣本，就成功模仿了 Jay Shooster 的聲音。他們打電話給他的父母，告訴他們他出了車禍，並需要 30,000 美元作為保釋金。此案例說明語音克隆技術可能如何被用於詐騙與侵占案件中。
5. 鎖定 Baltimore 校長的深偽音訊： 2024 年 4 月，一段 深偽音訊 片段在媒體與社群網路上廣泛流傳，內容是 Baltimore 一所高中的校長 Eric Eiswert 發表針對非裔美國人社群的種族歧視言論。這引發了大量反彈與對校長的威脅，並導致他遭到停職，直到這則假消息被認定為深偽內容為止。此案例也顯示深偽技術即使是假的，也有能力造成社會動盪並損害個人聲譽。

深偽技術的未來：挑戰與趨勢

隨著生成式 AI 的進步，深偽技術正處於一個轉折點，意味著它既可能提升社會中的創造力，也可能助長詐騙。專家認為，在未來幾年，商業視訊會議中的換臉將幾乎達到即時程度，這意味著採用率將很高。

以下五項趨勢從技術與社會角度描述了深偽技術的未來。

1. 即時虛擬化身： 使用者很快就能使用雲端 GPU，在串流或群組通話中執行即時臉部或語音操作。這些人員可能擁有逼真的合成身體，或即時變換成任何人物。雖然這個概念本身相當有趣，但它會在其他分散式辦公環境中引發身分問題與滲透威脅。當涉及 Deepfake 變形時，確保通話進行中參與者的身分識別變得至關重要。
2. 法規與內容真實性標準：  請準備因應各國針對 AI 生成內容使用免責聲明或「基於雜湊的浮水印」的立法。擬議中的歐洲 AI 法案提到要管制遭操弄的媒體，而美國則鼓勵科技公司建立合作夥伴關係，以統一偵測標準。如此一來，任何提供給大眾的 Deepfake 都必須附帶免責聲明。然而，如果創作者將這些假象託管於其他國家，這類法律的執行仍然是一項挑戰。
3. 區塊鏈與密碼學驗證：一些專家建議，應在建立真實影像或影片時納入加密簽章。之後，他們可以使用預期訊息驗證這些訊號，從而確認其為真實內容。若缺失或不相符，則會引發其究竟只是偽造內容還是 deepfake 的疑問。透過將內容建立與區塊鏈整合，可將詐欺活動的空間降至最低。然而，如前所述，唯有整個產業廣泛支持，才有可能實現採用。
4. 基於 AI 的 Deep Fake 偵測雙重性：隨著生成模型變得更加精密，偵測也必須加入更複雜的模式比對與多重交叉檢查。它可以捕捉人眼無法分辨的微表情、光線變化或「AI 痕跡」。然而，偽造者會強化神經網路以克服這些檢查，這顯示出一種持續演化的循環。對組織而言，持續更新偵測解決方案仍是 DeepFakes 網路安全概念中的重要一環。
5. 不斷演變的倫理與藝術邊界：除了威脅之外，可利用的創意機會也十分廣泛。紀錄片可以讓歷史人物重現，進行現場訪談；全球觀眾也可以觀看經過在地化處理、並以其語言進行對嘴的節目。問題在於，我們何時可以稱之為創新，以及何時我們成為為了操控我們思想而被創造出的幻象受害者。隨著 Deepfakes 擴散，關鍵在於允許其用於正當目的的同時，也確保能夠偵測其被用於惡意用途的情況。

結論

Deepfakes 是 AI 如何可用於藝術用途以及誤導公眾的良好例子。它正以快速步調發展，並讓組織與社會面臨 deepfake 入侵情境，從 網路釣魚從公司高階主管的電話，到政治人物假影片的散布。當物件的影像比物件本身更令人信服時，身分識別便成為數位可信度的基礎。同時，詐騙者利用其最擬真的 deepfake 來規避身分驗證或散布假新聞。對企業而言，仍有三個關鍵步驟，包括偵測、制定強而有力的準則，以及培訓員工，以確保 AI 在媒體中的安全使用。創造與偵測幻象之間的對抗仍在持續，因此必須強調所需的多層次方法，從使用者開始，到以 AI 為基礎的掃描器為止。

因此，我們希望你現在已經得到「什麼是網路安全中的 deepfake？」這個問題的答案。不過，還有一個疑問：你是否已準備好面對 AI 生成偽造內容的危險？如果還沒有，那麼請選擇正確的解決方案，並立即保護你的企業免受日益增長的 Deepfakes 威脅。