本網站使用相關技術提供更好的閱讀體驗,同時尊重使用者隱私,點這裡瞭解中央社隱私聲明當您關閉此視窗,代表您同意上述規範。
Your browser does not appear to support Traditional Chinese. Would you like to go to CNA’s English website, “Focus Taiwan”?
こちらのページは繁体字版です。日本語版「フォーカス台湾」に移動しますか。
中央社一手新聞APP Icon中央社一手新聞APP
下載

2024選舉年 OpenAI將推出反制惡意假訊息工具

2024/1/16 20:36(1/16 20:50 更新)
請同意我們的隱私權規範,才能啟用聽新聞的功能。
ChatGPT製造商OpenAI表示,將推出對抗惡意假訊息的工具。(圖取自Unsplash圖庫)
ChatGPT製造商OpenAI表示,將推出對抗惡意假訊息的工具。(圖取自Unsplash圖庫)
請同意我們的隱私權規範,才能啟用聽新聞的功能。

(中央社舊金山16日綜合外電報導)許多國家今年都將舉行選舉,將涵蓋全球約半數人口。ChatGPT製造商OpenAI表示,將在這些選舉登場前,推出對抗惡意假訊息(disinformation)的工具。

聊天機器人ChatGPT的出現激發全球人工智慧(AI)革命,但也引發這類工具恐讓網路充斥惡意假訊息、左右選民決定的警訊。

包括美國、印度、英國在內的國家今年都將舉行大選;OpenAI昨天表示,不會允許旗下的ChatGPT、DALL-E 3影像生成工具等科技被用於政治活動。

OpenAI在部落格發文寫道,「我們希望確保我們的技術不會被用在可能損害」民主程序的地方上。

世界經濟論壇(World Economic Forum)上週在一份報告中示警,利用AI製造的惡意假訊息和錯誤訊息(misinformation)是全球短期內的最大風險,可能損害主要經濟體選出的新政府。

雖然有關選舉惡意假訊息的擔憂幾年前就出現,但專家指出,公開提供強大的AI產出文字及生成圖像更加劇這類威脅,特別是當使用者無法輕易辨別所看到的內容是否為虛假或被操弄的時候。

OpenAI昨天表示,正在著手發展一些工具,在ChatGPT生成的文字附上來源可信度的註解,若是由DALL-E 3生成的圖像,也會讓使用者有能力辨別。

OpenAI說,「今年初將會實施內容來源和真實性聯盟(Coalition for Content Provenance and Authenticity)的數位驗證」,這是一種利用加密技術將內容來源細節編碼的作法。

內容來源和真實性聯盟也稱C2PA,目的是改善識別、追蹤數位內容的方法,成員包括微軟(Microsoft)、Sony、Adobe及日本相機大廠尼康(Nikon)、佳能(Canon)。

另外,OpenAI表示,旗下的DALL-E 3設有「防護欄」,能防止使用者生成真實人物的圖像,包括候選人在內。

在此之前,谷歌(Google)、臉書(Facebook)母公司Meta等美國科技巨擘去年已宣布抑制干預選舉的做法,特別是透過AI的使用。

法新社先前曾揭發一些深度偽造的影片,涉及美國總統拜登(Joe Biden)等人物。

法新社事實查核團隊也發現,台灣13日舉行總統大選前,社群媒體上流傳不少政治人物遭偽造的影像及音檔。(譯者:侯姿瑩/核稿:嚴思祺)1130116

中央社「一手新聞」 app
iOS App下載Android App下載

本網站之文字、圖片及影音,非經授權,不得轉載、公開播送或公開傳輸及利用。

172.30.142.39