Deepfake色情片不只名人受害 普通女性也有危險【書摘】

（中央社網站）網紅小玉利用AI（人工智慧） Deepfake技術，把女性藝人、公眾人物的頭像移花接木後製成色情片牟利，受害者至少上百人。這種犯罪模式比想像中更快來到台灣，操作也比想像中更容易，幾乎不需要技術門檻。Netflix拍攝「愛爾蘭人」影集時，導演馬丁史柯西斯（Martin Scorsese）砸大錢透過後製特效讓演員「減齡」，但成效並不理想， 隔沒幾年，AI Deepfake是怎麼走到這麼容易就能上手的地步？

研究科技與AI如何重塑政治的作家妮娜．敘克（Nina Schick），曾參與法國總統馬克宏競選團隊、分析外國勢力如何介入兩次美國總統大選，2020年她利用COVID-19疫情隔離期間寫完規劃多時的專書《深度造假》，深入淺出地描繪世界置身「資訊末日」的危險現實，追溯從俄羅斯到中國近年如何利用與操縱不實資訊。Deepfake的引爆點，就來自色情片。中央社取得授權與您分享相關內容，看看敘克如何追查起源與示警。

深度造假的引爆點

2017年11月2日，代號Deepfakes的Reddit匿名使用者建立了子論壇，用於張貼使用AI技術偽造的好萊塢女星色情片。影片使用開放原始碼製作，只要具備深度學習演算法知識，任何人都能效法。2017年12月11日，珊曼莎．科爾（Samanha Cole）在Vice Media集團旗下專責報導科學與科技發展的媒體《主機板》發稿，向世界揭發色情片的深度造假。

2020年初，我（即作者敘克）致電珊曼莎，和她談談2017年的那篇獨家新聞。她向我描述自己在Reddit網站「閒逛」時，發現deepfakes登上了熱門看板。

珊曼莎說：「事情就發生在我們眼前。」和我一樣，珊曼莎立刻對這項科技被濫用的可能性感到震驚。「假如連一個Reddit使用者都做得到，又要如何阻止人們做出同樣的事？」她開始思考這個問題，並傳訊息給影片製作者Deepfakes；對方同意在匿名的前提下和她談談。

Deepfakes表示，他自認不是工程師或專家，只是「對機器學習感興趣的人」。珊曼莎在電話上沉默了一下：「我們仍然不知道他的真實身分，也不知道他從事什麼工作。」Deepfakes描述自己發現了一種「聰明的方法」，利用開源AI工具，將名人的臉「置換」到色情片明星的身體上。

站在AI研究領域的巨人肩膀上，Deepfakes創造了自己的科學怪物：好萊塢女演員蓋兒．加朵（Gal Gadot）的亂倫色情片。一如珊曼莎當時於文中所述：

網路上有蓋兒．加朵與繼兄發生性關係的影片，但影片裡不是蓋兒．加朵本人的身體，也不是她的臉，只是用了演算法「換臉」，讓早已流傳於網路上的亂倫色情片，看起來就像由加朵本人演出。

他是怎麼做到的？透過Google圖片搜尋、圖庫和YouTube，Deepfakes建立了加朵的數據集，以此訓練AI演算法，讓它學會如何「置換」加朵的臉——以影格（frame）為單位，置入既有的色情片。只要你仔細檢視Deepfakes的作品，不出幾秒就能察覺事有蹊蹺。影片中會出現雜訊，加朵的嘴型有時並未與她說的話同步。但如果沒有細看，的確會相信片中女主角是加朵本人。

科爾撰文揭露後，這些Reddit用戶的行徑引起公憤。幾週內，Reddit以「包含未經同意製作的成人影片」為由，關閉了討論板。始作俑者Deepfakes就此消聲匿跡，但他早已公開分享了最主要的「深度造假」程式碼。

早期換臉只是為了製造笑料

熱衷此道者掌握了他開發的「換臉」技術。網路上很快開始流傳新的工具和免費軟體，協助他人製作自己的深度造假影片。使用者雖然需要具備一定程度的技術知識，但憑藉耐心和技巧，成品的水準也相當可期。這類平台讓多位YouTuber聲名大噪，為了製造笑料，他們使用免費軟體置換好萊塢大片中的演員。舉例來說，Ctrl Shift Face以席維斯．史特龍（Sylvester Stallone）的臉取代電影《小鬼當家》的麥考利．克金（Macaulay Culkin），再將片名改為《史特龍當家》。這些影片非常有趣，YouTube瀏覽次數更是突破百萬。

網路上也能找到許多好萊塢巨星尼可拉斯．凱吉的片段，這些是屬於早期的深度造假影片。由於凱吉偶有過於誇張的演技，讓他成為網路迷因的主角，甚至帶起一股風潮「把尼可拉斯．凱吉的臉放進所有電影」。名為DerpFakes的YouTuber推出了「尼可拉斯．凱吉終極合輯」，無論《真善美》或《鬥陣俱樂部》，都能看到凱吉的換臉片段。

早期的深度造假影片並無惡意，往往充滿趣味，但這類影片只占了少數。時至今日，換臉技術廣泛用於製造色情片，而且是在影片當事人毫不知情的情況下。

迎合（男性）最狂野的幻想

深度造假色情片在Reddit現蹤後，已發展成獨立的生態系統。與DeepTrace公司談過之後，我對此有了更深入的了解。DeepTrace總部設於荷蘭阿姆斯特丹，2018年創立，致力於研究深度造假持續進化的可能與威脅；這間私人公司專門保護組織和個人免於受到AI合成媒體傷害，也是這個產業的先驅，一舉一動都受到業界關注。

2019下半年，DeepTrace公司發表一份報告，公開深度造假的現況。調查結果發現，深度造假影片的數量快速增加，部分原因是「相關工具和服務持續商品化，降低非專業人士製作深度造假影片的門檻。」據統計，至2019年9月為止，網路上已有將近1萬5000部深度造假影片。

DeepTrace公司創辦人喬奇歐．派翠尼（Giorgio Patrini）向我證實，深度造假影片（色情片及其他類型）的數量在2020年後仍會大幅成長；但截至目前為止，深度造假影片中高達96%都是色情片，當事人卻對此一無所知。這意味著這類影片有著極大的市場。第一個深度造假色情片網站於2018年2月註冊。現在，全球前四大深度造假色情片網站的瀏覽次數已超過1億3400萬次。我曾看過一個自稱是「最佳深度造假色情片源」的網站。只要按幾個鍵，就能觀看所有影片，而且完全免費。該網站首頁的歡迎訊息如下：

色情片任君挑選。性虐支配、戀物癖、戀足癖……你想得到的，這裡都看得到！想像一下——以上色情片都使用換臉技術，將明星的臉置入影片，看起來就像她或他...

網站接著吹噓深度造假色情影片的逼真程度，因為影片能夠「細膩捕捉明星臉部的情緒和表情」，任何妄想都能得到滿足。深度造假科技甚至能滿足最狂野、「過去無法實現的幻想」 ，也就是觀眾對窺視公眾人物的「渴望」。

國際巨星也無計可施

深度造假色情片無疑也是一種性別化現象（gendered phenomenon）。每次造訪新的深度造假色情網站，我都會瀏覽上頭不下數百部影片，卻從來沒見過任何一位男性名人——沒有布萊德．彼特（Brad Pitt）、喬治．克隆尼（George Clooney），也看不到強尼．戴普（Johnny Depp）。我詢問珊曼莎．科爾在調查取材期間，是否看過任何以男性為對象的深度造假色情片，她直率地回答：「這並不常見，答案是沒有。」但在同樣的網站上，以女性名人為對象的深度造假色情片卻動輒數百部，你想得到的女性公眾人物應有盡有。

正如最初的蓋兒．加朵假A片，許多深度造假色情網站的影片依然看得出破綻，但技術已愈臻成熟。無論如何，影片的品質並非重點。所有未經當事人同意製作的色情片，無論是否使用深度造假技術、擬真程度是好是壞，對受害者而言，都是駭人聽聞、難堪且踐踏尊嚴的行為。

我們不知道受害者該如何保護自己，即使是擁有資源的富人亦是如此，例如好萊塢片酬最高的女星史嘉蕾．喬韓森。在2018年的一次採訪中，喬韓森告訴《華盛頓郵報》，她和自己的團隊沒有任何實質對策，畢竟從網路上移除這類影片是不可能的。「很遺憾，這種情況我經歷了太多次，」她說：「關於肖像權，每個國家都有自己的法律規範。即使能在美國境內採取法律行動，關閉侵權的網站，同樣的法規卻可能不適用於德國。」喬韓森相當沮喪，認為那是「徒勞無功的行為」，也提出警告：她認為很快人人都會成為目標，因為網路「是一個巨大的黑暗蟲洞，終將吞噬自己。」

所有女性都是目標

深度造假色情片的目標是所有女性，包括我們的妻子、女兒、姊妹和母親。深度造假由未經同意製作的造假色情片演變而來，將平凡的女性捲入其中。即使在人工智慧問世之前，造假色情片就足以毀掉一個人的人生。不論如何包裝，受害者隨之面臨的曝光、羞辱和恐懼，都將毀掉她們。她們無法再上網，難以找到或保住工作、甚至不再感到安全。這侵犯了她們最私人的領域及人身安全。

澳洲年輕女子諾莉．馬丁（Noelle Martin）的親身經歷，讓我們得以了解未經同意製作的造假色情片將帶來何等災難。當時她年僅17歲，在青少年時期就被迫經歷這樣的折磨。某天，和大多數人一樣，她決定用一張放上社群網站的照片在Google上以圖搜圖，結果卻讓她瞠目結舌。事後，她描述了那可怕的一刻：

我的螢幕上瞬間滿滿都是那張照片，還有從我的社群網站盜用的數十張照片，網址連結到色情影片網站。在那些網站上，沒有名字、也看不到臉的人就像對待獵物一樣，對我大開黃腔，發表自己的妄想。他們貼出的資訊足以辨認我是誰：包括我住的地方、我的主修，以及我的身分。

諾莉是在深度造假技術出現之前就成為目標，當時技術還不發達，只將她的臉移植到色情片演員身體上。諾莉的故事並非個案，她是網路上數以千計的受害女性之一。更糟的是，諾莉發現自己孤立無援。她曾向警方求助，警方卻表示幫不上忙。色情網站的主機通常設在國外，加害者也都匿名。諾莉只能絕望地一一聯絡各個網站，通知網站管理員刪除所有內容。但想移除造假色情片就像打地鼠一樣沒完沒了。她順利讓一部分內容下架，新的影片卻不斷出現。其中一個網站的管理員甚至勒索諾莉，要求她在24小時之內提供自己的裸照，才願意移除造假色情片。

對抗網路霸凌多年後，諾莉決定在2016年公開自己的經歷。她的故事也促使澳洲於2019年制訂新法，規定在未經當事人同意的情況，散播私密照片是一種犯罪行為。

很不幸的，對策仍跟不上問題的惡化速度。深度造假色情片的生態系統已經商業化，市面上也出現各種客製服務及應用程式。隨著合成媒體技術持續發展，預期將會出現更新、更高明的方式。

全球資訊網（World Wide Web）的發明人提姆．伯納斯．李（Tim Berners Lee）爵士曾經語帶擔憂地指出，女人和女孩正面臨網路傷害「與日俱增的威脅」。性騷擾、威脅訊息及歧視，讓網路對她們而言不再是安全的場所。如他所述，「網路環境不適合女人和女孩。」但事實上，在資訊末日下，不只女人和女孩正面臨網路傷害與日俱增的威脅，男人和男孩也無法倖免。目前，深度造假色情片的目標幾乎只針對女性，但以深度造假同志色情片為例，這類型的影片也會在世界某處對某個人的生命或自由造成傷害。在不久的將來，這可能就是深度造假的另一個目標。（書摘由拾青文化提供、中央社節錄）（編輯：趙敏雅）1101105

書名：深度造假：比真實還真的AI合成技術，如何奪走人類的判斷力，釀成資訊末日危機？
作者：妮娜．敘克
譯者：林曉欽
出版社：拾青文化
出版日期：2020/10/14

本網站之文字、圖片及影音，非經授權，不得轉載、公開播送或公開傳輸及利用。