OpenAI制定人工智慧安全框架 允許董事會推翻決定

（中央社舊金山18日綜合外電報導）根據人工智慧公司OpenAI今天在其官網上發布的計畫，該公司制定了一個框架，以解決最先進模型的安全問題，其中包括允許董事會推翻安全決策。

路透社報導，根據官網計畫，微軟支援的OpenAI只有在網路安全和核威脅等特定領域被認定安全的情況下，才會部署其最新技術。

該公司正設立一個諮詢小組，以審查安全報告並將其發送給公司高層和董事會。在高階主管做出相關決定後，董事會有權推翻這些決定。

自1年前ChatGPT問世以來，人工智慧的潛在危險一直是研究人員和大眾最關心的問題。生成式人工智慧（Generative AI）技術讓人眼花撩亂，但其傳播假消息和操縱的潛力也引發安全擔憂。

今年3月，美國富豪馬斯克（Elon Musk）以及一群人工智慧專家、業界高管在一封公開信中表示，考量對社會及人類的潛在風險，呼籲未來6個月先暫停對優於OpenAI語言模型GPT-4的人工智慧系統進行訓練。

路透社/易普索（Reuters/Ipsos）5月的一項民意調查發現，超過2/3的美國人擔心人工智慧可能帶來負面影響，61%的人認為它可能威脅文明。（譯者：施施/核稿：楊昭彥）1121219

本網站之文字、圖片及影音，非經授權，不得轉載、公開播送或公開傳輸及利用。