美校長遭AI偽造錄音誣陷 專家警告人人可能受害
(中央社華盛頓6日綜合外電報導)一段偽造錄音檔,讓美國馬里蘭州一名高中校長面臨排山倒海的反猶和種族主義指控。此案再度敲響人工智慧(AI)遭到濫用的警鐘,專家說,從總統到一般民眾,人人都可能受害。
法新社報導,警方指控派克斯維爾高中(Pikesville High School)一名心懷不滿的職員利用AI技術偽造一段錄音,內容是校長艾斯華特(Eric Eiswert)怒罵猶太人和「忘恩負義的黑人小孩」。
今年1月音檔外流後,派克斯維爾高中行政人員接到大量憤怒電話和威脅。此事凸顯隨處可得的AI和編輯工具很容易被濫用來假冒名人和一般民眾。
全球多國將於今年舉辦重要選舉,美國也將於11月舉行總統大選。在修法填補漏洞之際,派克斯維爾高中的案例說明了逼真的深偽(deepfake)技術造成的危害。
加州大學柏克萊分校(University of California, Berkeley)數位鑑識專家法瑞德(Hany Farid)說:「只需要一個畫面就能讓某人出現在影片裡,只需要30秒的音訊就能複製一個人的聲音。」
他說:「除非從不留下任何蛛絲馬跡,否則幾乎無能為力…攻擊對象已從(美國總統)拜登、(流行歌手)泰勒絲(Taylor Swift),擴大到高中校長、15歲青少年、記者、律師、企業老闆,甚至是家中長輩。現在每個人都可能受害。」
經過校方調查後,派克斯維爾高中的31歲體育主任達林(Dazhon Darien)上月底被逮捕。檢方正準備以4項罪名起訴他,包括擾亂學校活動。
起訴文件提到,該校教職員在音檔流出後感覺很不安全,教師們擔心校園內裝有錄音器材。許多網友也在艾斯華特的社群媒體帳號留下大量辱罵訊息,一名社群平台X用戶對艾斯華特說:「如果你死了,世界會變得更加美好。」
目前校方暫時讓艾斯華特休假,他的住宅也需要加強保全。
當這段捏造音檔在社群媒體上傳開時,擁有近百萬粉絲的倡議人士麥克森(DeRay McKesson)在X平台上公開要求校方開除艾斯華特。等到警方提出指控,他才坦言自己被騙了。
美國多所學校也正致力打擊AI製造的深偽色情片,這些影片導致學生受到騷擾,而目前並無聯邦法律可管。
派克斯維爾高中的高爾夫球教練布瑞頓(Parker Bratton)說,艾斯華特的例子在當地敲響警鐘,揭示假資訊如何把一個「非常緊密的社區」鬧得雞犬不寧。
布瑞頓說,美國只有一位總統,卻有不計其數的校長,「大家會想:對我來說這意味什麼?萬一有人想毀掉我的職業生涯,我會面臨哪些後果?我們永遠擺脫不了這種風險」。(譯者:曾依璇/核稿:施施)1130506
本網站之文字、圖片及影音,非經授權,不得轉載、公開播送或公開傳輸及利用。