公部門使用生成式AI 唐鳳點出2原則

（中央社記者蘇思云台北11日電）國科會目前正召集各部會研議「公務機關使用生成式AI參考指引」，數位部長唐鳳今天表示，指引有2原則，第一是不能把生成內容直接使用，第二若牽涉個資，應該使用地端技術作法，不能連接外網。

立法院交通委員會邀唐鳳、財政部、國家科學及技術委員會就「網路報稅、ChatGPT等使用率高，數位發展部如何協助使用者防止資安外洩」進行專題報告並備質詢。民進黨立委李昆澤也關注公部門使用ChatGPT應注意事項。

唐鳳指出，國科會目前正召集各部會研議「公務機關使用生成式AI參考指引」，將可作為政府部門使用生成式AI時確保個資安全與資安防護的參考依據。

唐鳳表示，公務員使用生成式AI有2個重要原則，第一，生成式AI跟一般搜尋引擎直接找到資料有所不同，生成式AI可能會無中生有，部分產出內容可能不正確，因此，公務人員要很清楚，不能把生成式AI內容直接使用。

第二，若牽涉個資問題，應該要使用地端技術作法，不連接外網，以降低相關風險。目前有解決方案，在完全可以掌控地端機器上使用這樣的技術即可。國科會的「可信賴AI對話引擎」是通用引擎，可在任何有算力的地方部署，後續很快可以給公務機關使用。

唐鳳指出，企業可以內部部署地端語言模型，若可以提升到類似ChatGPT表現，就可以發揮語言模型功能又不會有資料外洩問題。

國科會有望今年底前推出「可信賴AI對話引擎」（Trustworthy AI Dialog Engine，TAIDE），提供一個讓政府或業者，在專屬需求、領域下可應用的對話模型。

唐鳳指出，TAIDE過程中會有中間的開發版本，數位部會一起做驗測。資安院跟工研院也有做相關研究，進行AI產品測試規範等。（編輯：楊蘭軒）1120511

本網站之文字、圖片及影音，非經授權，不得轉載、公開播送或公開傳輸及利用。