本網站使用相關技術提供更好的閱讀體驗,同時尊重使用者隱私,點這裡瞭解中央社隱私聲明當您關閉此視窗,代表您同意上述規範。
Your browser does not appear to support Traditional Chinese. Would you like to go to CNA’s English website, “Focus Taiwan”?
こちらのページは繁体字版です。日本語版「フォーカス台湾」に移動しますか。
中央社一手新聞APP Icon中央社一手新聞APP
下載

ChatGPT衝擊學術倫理 專家:AI文字有一定風格不難辨識

2023/3/23 15:53(3/23 16:58 更新)
請同意我們的隱私權規範,才能啟用聽新聞的功能。
ChatGPT等生成式AI(人工智慧)衍生學術倫理疑慮,專家指出,目前AI仍有一定的文字風格,辨識工具協助判斷準確度達9成以上。(圖取自Unsplash圖庫)
ChatGPT等生成式AI(人工智慧)衍生學術倫理疑慮,專家指出,目前AI仍有一定的文字風格,辨識工具協助判斷準確度達9成以上。(圖取自Unsplash圖庫)
請同意我們的隱私權規範,才能啟用聽新聞的功能。

(中央社記者陳至中台北23日電)ChatGPT等生成式AI(人工智慧)衍生學術倫理疑慮,有師生擔心明明是自己寫的文章卻被質疑來自AI。專家指出,目前AI仍有一定的文字風格,辨識工具協助判斷準確度達9成以上。

曾獲得國家品牌玉山獎的「快刀系統」,近期開發出「快刀AI先生:中英文ChatGPT 文章辨識系統」,可協助判斷一篇文章有多少比率疑似為AI產生,目前正推廣到學術界,預計邀請1000名教師實測。

快刀系統總經理林政宏接受中央社電訪表示,AI寫出的內容,具有一定的風格,就像每個人寫出的文章,也都會自己的風格。在AI領域之中,可用困惑度(Perplexity)來衡量,這套技術已相當成熟,可藉由資料的統計、歸納和計算,判斷出是不是AI寫的。

台灣大學於本月13日公布的「針對生成式AI工具之教學因應措施」中提到,目前已有多款偵測工具,可用來判斷學生是否在作業中使用ChatGPT。但如果生成內容經過修改而不是被直接使用,偵測的困難度更高。同時,由於AI生成的內容為隨機文字組合,因此即使偵測工具判定作業中有使用AI生成的文字,也無法提供確切的證據,教師應謹慎看待。

對此,林政宏則認為,既使AI生成的文章,經過人類一番改寫,對辨識系統來說,就像是小朋友玩的抽換詞彙遊戲,很容易就能破解,仍能判斷出哪些是AI寫的。

但會不會明明是人類寫的內容,卻因風格像是ChatGPT ,而被誤判為AI創作呢?林政宏表示,他們曾測試3個月,將十幾萬篇報紙、網路聊天室、社群軟體中的內容丟進辨識系統,判定為人類寫的正確率達9成以上。

林政宏解釋,人類自己寫的內容,一定會有一些有獨創的原則和用詞習慣,甚至是錯字,「目前ChatGPT還沒到這個級數,但年底可能還有重大改良,我們再來觀察。」

林政宏表示,作為比對系統業者,他們也很想多跟學界討論。例如能接受多少比率的內容由AI創作,以及如何運用AI工具改善研究效率,進而創造出更有價值的內容。(編輯:龍柏安)1120323

中央社「一手新聞」 app
iOS App下載Android App下載

本網站之文字、圖片及影音,非經授權,不得轉載、公開播送或公開傳輸及利用。

108