灌輸黑暗素材 麻省理工首創精神變態AI

（中央社舊金山11日綜合外電報導）美國麻省理工學院一組研究團隊，向人工智慧（AI）灌輸社群網站上描寫死亡的素材，製造出首個宛如患有神經病的AI，名為諾曼（Norman）。

法新社報導，研究團隊之所以創造諾曼，是盼以通俗語言，解釋演算法的運作方式，並藉此讓人們意識到AI潛在的危險。

美國知名學府麻省理工學院（MIT）表示，諾曼代表正在學習演算法的機器讀取偏倚資訊，導致AI出錯的危險案例。

研究團隊的其中3名成員透過電子郵件表示：「機器在學習時，有一點至關重要：當教導機器學習演算法時，灌輸機器的資訊會對其行為造成顯著影響。」

他們說：「所以當我們談到AI演算法出現偏差不公時，罪魁禍首通常不是演算法本身，而是餵給演算法的偏倚資訊。」

而諾曼這個名字的靈感，來自驚悚片宗師希區考克（Alfred Hitchcock）1960年的電影「驚魂記」（Psycho）中，名為諾曼貝茲（Norman Bates）的精神變態殺手。

研究團隊只灌輸諾曼社群網站Reddit上描述人類死狀的短文。

研究人員接著對諾曼進行羅夏克（Rorschach）墨跡心理測驗，以判定諾曼眼中的景象，並將諾曼的答案與受傳統訓練的AI答案比較，不料產生駭人的對比結果。

當傳統AI看到「兩個人緊靠對方站著」，諾曼卻看到「一名男子跳出窗戶」。

而諾曼看到「男子被尖叫的妻子射殺」時，其他AI則看到「一人手持雨傘」。（譯者：鍾佑貞/核稿：盧映孜）1070612

本網站之文字、圖片及影音，非經授權，不得轉載、公開播送或公開傳輸及利用。