國內將建立「可信任AI驗證機制」 資安院、工研院攜手強化資安防護

國家資通安全研究院昨（3/29）進行掛牌後首次記者會，說明資安院重點業務規劃，從安全、技術、主動、韌性、信賴五大核心價值出發，以打造國際級資安韌性科研團隊，建立安全、安心及安穩的數位環境為重要願景。針對今年最夯的生成式AI話題，資安院院長何全德表示，今年底前將偕同工研院，在國內共同建立一套可信任AI驗證機制，並協助各界利用AI來強化資安防護。

何全德指出，美國國家標準技術研究院（NIST）今年初發布AI風險管理框架1.0，內容包含將可信賴的因素納入AI產品、服務和系統的設計、開發等，未來資安院會依據國科會發布的人工智慧科研發展指引，搭配NIST之AI風險管理框架，在安全性面向強化具體作為，深入研究相關AI安全性技術，使用可信任的框架檢視AI，作為未來技術發展基石。

資安院副院長林盈達指出，資安院下半年將啟動一項研究計畫，這項計畫由工研院、資安院合作，長期目標是對各種宣稱有資安功能的產品進行檢測，以及對各種導入AI的產品進行測試，瞭解它們是否能抵禦對抗式攻擊，檢測範圍包括該項產品是採用何種AI演算法，是否有進行AI風險防範，以及它防範的方法為何等等。這項研究計畫初期將選定ChatGPT做為檢測目標。

何全德也強調，希望在年底前偕同工研院，共同建立一套「可信任AI驗證機制」，若建立完成也會開放給需要的企業來使用，只要是通過驗證的AI產品就是值得被信任的。

工研院資通所副所長黃維中亦曾表示，目前全球逐漸重視「可信任AI」議題，各國並開始發展AI治理的規範，包括歐盟、美國以及GPAI人工智慧全球合作組織等，希望在符合人權、包容、多樣性、創新和經濟成長等原則下，負責地去採用AI技術。針對標準原則，台灣也藉參與ISO等國際標準組織，進而凝聚AI標準制定的共識。