民團認AI草擬判決有3疑問3風險！司法院一文揭真相

民團昨召開記者會指出，司法院擬推出的AI草擬判決系統可能有資訊揭露等3大疑問，另可能出現判斷錯誤等3大風險。司法院3點直球回應，在系統建置和訓練部分具體解釋系統功能，強調絕不涉及法官判斷、就避免內容錯誤部分目前仍持續優化中，另著手製作指引。司法院堅定強調，該系統只是減少法官不必要的勞力時間，不是要用AI生成技術製作完整判決書。

包括全國律師聯合會、台北律師公會等單位，昨開記者會質疑AI草擬判決系統，可能有資訊揭露、風險評估及社會溝通等3大疑問，擔心有判斷錯誤、複製系統偏誤及司法信任3大風險。

司法院回應如下

一、 就系統建置、訓練方式部分

司法院表示，開發之「智慧化裁判草稿自動生成系統」，是提供「不能安全駕駛罪」及「幫助詐欺罪」兩種案件類型的裁判書草稿。本系統就這兩種案件類型，依起訴書的內容，將起訴書的「犯罪事實」及「證據名稱」引用到裁判書草稿，此部分並未使用任何生成式AI技術。

司法院強調，由於本系統並未分析任何卷證資料，所以認定事實部分完全由法官自行決定，系統無法協助法官判斷。法官審酌全案相關卷證之後認定被告有罪，適用法律部分的例稿式生成內容則提供給法官參考。

此外，司法院澄清，本系統的訓練資料均已去識別化，不含當事人個資，並在訓練之後要求廠商銷毀；訓練資料包含起訴書及裁判書等資料逾10萬筆，應不至於有訓練資料不足的問題。

二、 就避免生成內容錯誤之風險部分

司法院解釋，本系統開發主要使用「自然語言處理（Natural language processing）」及「規則法（Rule-based）」技術，與生成式AI技術關聯性不高。在使用生成式AI內容部分，為避免AI可能有生成內容錯誤的問題，在生成之後再結合「規則法」，以提高生成內容的準確性，應不會如同ChatGPT出現內容所對應之對象或事實顯然錯誤之情形。

此外，本系統開發階段已請刑庭法官測試並提供意見，目前仍持續在調整系統內容，尚未確定上線日期，日後亦將持續蒐集使用者的反饋來逐步優化系統。

三、 目前正研擬「司法院使用生成式AI參考指引」

司法院表示，已參考行政院於2023年8月31日訂定之「行政院及所屬機關（構）使用生成式AI參考指引」，目前正研擬「司法院使用生成式AI參考指引」，並將參考各界及外部專家提出之專業意見，讓指引更加完善周延。

司法院再次重申，該系統的開發，主要目的是要協助法官減少不必要的勞力時間成本，減輕法官書寫裁判書類之負擔，進而提升司法品質，保障人民訴訟權益，並非要以生成式AI技術製作完整的判決書，取代法官認事用法之核心審判權限。

司法院對人工智慧各項應用，定會秉持審慎、穩健、負責的態度，期能提供更為高效、便民、智慧、環保的司法服務。