生成式AI進入法院:新加坡2024年法庭AI使用規則與台灣的啟示

生成式AI進入法院:新加坡2024年法庭AI使用規則與台灣的啟示
從新加坡法院的制度選擇,重新思考生成式AI進入訴訟程序後的責任與界線
或許,現在真正的問題已經不是「法院應不應該允許AI」,反而是當律師、當事人甚至證人開始利用AI準備法院文件時,法院應該如何面對?如果AI引用不存在的判決,責任由誰負擔?當事人可否利用AI協助準備證詞?使用AI是否必須向法院揭露?
新加坡法院在2024年發布《Guide on the Use of Generative Artificial Intelligence Tools by Court Users》(下稱「AI使用指引」),並自2024年10月1日起適用於該國的Supreme Court、State Courts及Family Justice Courts,嘗試對這些問題建立一套明確的規則。
新加坡的作法未必是生成式AI進入司法程序後的最佳答案,但至少正面承認AI已經進入法院,並且嘗試劃出一條法院使用者可以遵循的界線。
一、新加坡法院並不禁止使用生成式AI
指引第3(1)點明確表示:“The Court does not prohibit the use of Generative AI tools to prepare Court Documents, provided that this Guide is complied with.”亦即,只要遵守指引,新加坡法院並不禁止使用生成式AI準備法院文件。
而且這裡所稱的「Court User」範圍相當廣泛,包括檢察官、律師、自行訴訟的當事人(Self-Represented Persons)及證人;「Court Documents」也不限於傳統書狀,而包括written submissions、pleadings、affidavits、opening statements,以及其他向法院提出的文字、影像、聲音、影片及資料。換句話說,新加坡法院並沒有試圖把AI阻擋在法院之外。相反地,它所採取的基本立場是:AI可以使用,但使用AI的人仍然必須對結果負責。
二、AI只是工具,使用者仍須對法院文件負責
新加坡AI使用指引最重要的原則之一,就是使用AI並不會改變律師或當事人原本應負的責任。
指引第3(3)點指出:“Generative AI is a tool, and any output generated should only be used on the basis that the Court User assumes full responsibility for the output.”
也就是說,生成式AI只是一項工具,最後決定將AI產生內容提交法院的人,仍然必須自己負責。因此,如果使用者是律師,其原本依專業倫理應確保提交法院的資料經過獨立查證,並且正確、真實及適當的義務,不會因為使用AI而消失;自行訴訟的當事人同樣必須確保提供法院的資訊經過查證,而且內容正確、真實及適當。
值得注意的是,新加坡並沒有採取「使用AI就必須主動揭露」的制度。除非法院特別要求,使用者原則上不需要預先向法院聲明自己曾使用生成式AI。理由也很直接:無論文件是不是透過AI協助產生,提出文件的人本來就應該對內容負責。因此,這套制度真正關心的不是:「你有沒有使用AI?」仍然是回歸到:「你向法院提出的東西是不是正確,而且你是否願意對它負責?」
三、AI找到的判決與法條,必須由使用者重新查證
生成式AI應用在法律工作上最明顯的風險之一,就是所謂的AI幻覺(hallucination)。
新加坡法院特別提醒,生成式AI可能產生看起來具有說服力及權威性的答案,但實際上卻可能極度不正確,甚至完全是虛構的。指引甚至直接指出生成式AI可能直接「創造」根本不存在的判決及法條。這在重視判決前例的英美法系,更將是致命的錯誤。因此,如果使用者將AI產生的內容放進法院文件,就必須自行進行fact-check及proof-read,並確認AI引用的判決、法令、教科書及文章確實存在,而且真的支持AI所主張的法律見解。如果AI提供原文引述,也必須確認引文內容及出處正確。
更值得注意的是,新加坡法院還特別強調:“you cannot use one Generative AI tool to confirm the content generated from another Generative AI tool.”換句話說,不能用另一個AI來證明第一個AI講的是對的。例如,AI告訴使用者某個法院曾經作成某項判決,使用者不能只是再去詢問另一個生成式AI「這個判決是真的嗎?」就認為已經完成查證,而仍應回到正式的判決資料庫、法令資料庫或其他可靠的原始資料來源進行確認。
其實,這也無非是法律研究最基本的原則:AI可以協助找到方向,但不能取代對原始法律資料的確認。
四、AI可以協助整理證詞,但不能創造證據
AI使用於訴訟的另一個敏感問題,就是證據。新加坡法院並沒有完全禁止利用AI協助準備證詞。例如,AI使用指引明確允許使用者利用AI製作affidavit或statement的「first-cut draft」。但是,AI只能協助整理既有事實,不能用來創造、修改或美化證據。
指引第5(1)(c)點就明確指出,不得要求AI將證據:“created, fabricated, embellished, strengthened or diluted.”也就是不得利用AI創造、捏造、美化、強化或弱化準備向法院提出的證據。這條界線相當重要。當事人將自己已經發生的經歷交由AI協助整理成一份有條理的證詞初稿,與要求AI「幫我補充一些對案件比較有利的細節」,是完全不同的事情。
總結以言,AI可以協助表達證據,但不能協助創造證據。
五、使用AI仍須注意個資及客戶機密
對律師而言,AI帶來的風險也不只是內容是否正確。律師處理案件時經常接觸當事人的身分資料、財務資料、家庭關係、公司機密、尚未公開的法院文件及其他敏感資訊。如果使用者為了方便,直接將完整卷證資料輸入第三方AI系統,就可能產生另外一層資訊安全及保密問題。
因此,使用者必須注意輸入AI系統的資訊可能遭到儲存或進行其他利用,並且仍須遵守法院的保密命令、個人資料保護、智慧財產權及legal privilege等相關義務。對律師而言,這是一個很實際的問題。AI最大的法律風險有時甚至不是「它回答錯了」,而是使用者在取得答案以前,就已經把原本不應該揭露的資料交給第三方系統。
六、法院有疑問時,可以要求使用者說明如何使用AI
雖然新加坡法院原則上不要求主動揭露AI的使用,但這並不代表法院完全不會介入。指引要求使用者必須準備好指出法院文件中哪些部分使用AI生成內容,並向法院說明自己如何確認AI輸出的正確性。如果法院有理由相信使用者曾經利用AI生成法院文件,法院還可以要求使用者說明是否使用生成式AI、聲明文件符合AI使用指引,甚至要求使用者透過affidavit正式提出說明。
因此,新加坡制度並不是要求每個人在提交書狀時,都另外附上一份「AI使用聲明」。它採取的方式比較實際:法院平常不必追問你有沒有使用AI;但一旦文件出現問題,法院可以要求你交代用了什麼、用在哪裡,以及你究竟如何確認內容正確。
七、違反AI使用規則可能產生實際法律效果
新加坡的AI使用指引也不是一份沒有法律效果的宣示性文件。依照指引,如果使用者沒有遵守相關要求,法院可以命其負擔訴訟費用;如果違反者是律師,法院甚至可以命律師本人負擔費用。法院也可以不考慮使用者提出的全部或部分文件,或降低相關資料的證據權重;律師另外還可能面臨紀律問題的相關處分。
因此,新加坡法院並不是單純提醒大家「小心使用AI」,而是將AI使用直接連結到既有的訴訟責任、證據規則及律師專業責任。
八、回頭看台灣:規範的重點仍然是「法院自己怎麼使用AI」
台灣並不是完全沒有司法AI規範。司法院已於2026年4月22日訂定「司法院及所屬各機關使用人工智慧系統參考指引」,並自同日生效。這套規範包含18點,主要適用於司法院及所屬各機關人員執行公務時使用AI的行為。例如,司法院要求司法機關人員使用AI時必須遵守資通安全及個人資料保護規範,未公開的起訴書、書狀、筆錄、法庭錄音、調查訪視紀錄及裁判草稿等資料,不得輸入未經司法院核准或核備使用的AI系統。同時,司法院將AI定位為「審判輔助工具」。資料檢索、摘要分析等工作可以利用AI協助,但是證據價值判斷、事實認定、法律適用及量刑等核心審判工作,仍然必須由法官親自完成。
這些規範當然有其必要性,但台灣的規範所回答的主要問題仍然是:「法院自己應該怎麼使用AI?」至於另外一個已經實際發生、且正在困擾司法從業人員的核心問題,也就是「律師、當事人及其他訴訟參與者可以怎麼使用AI?」目前仍缺乏如新加坡一般,直接針對Court Users所建立的完整而明確規範。
九、沒有規範,也可能成為法院的負擔
生成式AI確實可以降低一般民眾理解法律及接近司法的門檻。過去不熟悉法律的當事人,可能連如何撰寫一份基本書狀都有困難。現在透過AI,至少可以協助整理事實、理解法律問題及形成初步文件。但同一項技術,也可能產生完全相反的效果。
生成式AI大幅降低了「產生文字」的成本。過去自行訴訟的當事人要撰寫數十頁書狀,需要投入相當時間;現在透過生成式AI,卻可能在極短時間內製造出大量文字。
不過,書狀變長,不代表爭點和論述變得更清楚或正確。從訴訟實務而言,法院真正需要的是當事人清楚說明爭點、事實、法律依據及證據,而不是大量重複、與爭點無關甚至引用錯誤法律資料的文字。如果生成式AI使得缺乏法律訓練的使用者可以幾乎沒有成本地大量製造看似專業的法院文件,最後反而可能增加法官及司法行政人員閱讀、整理及確認內容的負擔。這也是目前台灣法院面對AI浪潮實際遇到的重大問題。一方面,對於當事人利用AI製作法院文件,實務上仍欠缺明確限制;另一方面,面對AI已經快速進入訴訟程序的現實,也遲遲沒有形成一套具體而一致的處理方式。
因此,完全不規範AI的使用,並不當然代表對科技採取比較開放的態度。如果沒有適當的責任與程序界線,AI所降低的可能只是「製造訴訟文件」的成本,最後增加的卻是法院及其他訴訟參與者處理這些文件的成本。
結語:AI可以進入法院,但界線仍然需要有人劃下
新加坡法院的AI使用指引未必是唯一答案,也未必是最好的答案。但是,新加坡至少正面承認了一個已經無法迴避的現實:AI已經進入法院,而且被大量的法院使用者濫用著。因此,新加坡法院沒有選擇全面禁止AI,也沒有完全放任,而是建立幾項基本界線:可以使用AI,但使用者必須負責;可以用AI協助準備書狀,但內容必須查證;可以協助整理證詞,但不能創造證據;不必一律主動揭露使用AI,但法院有疑問時,使用者必須有能力說明自己如何使用及查證。
相較之下,台灣目前已經開始建立司法機關內部使用AI的規則,但對於律師、當事人及其他法院使用者如何將AI帶入訴訟程序,仍欠缺一套具體而可預期的標準。AI當然可能成為一般民眾接近司法的重要工具,但如果毫無限制地允許AI生成的內容大量進入法院,也可能造成繁冗書狀、錯誤法律資料及無意義訴訟內容增加,最後反而加重法院的負擔。
新加坡的作法不一定最好,但至少劃下了一條明確的界線。對台灣而言,接下來真正需要面對的問題,恐怕已經不是「應不應該允許AI進入法院」,而是:當AI早已經進入法院之後,我們準備用什麼規則面對它?
法律聲明
本文僅供一般法律知識之介紹與參考,旨在協助讀者了解相關法律概念,不構成任何個案之法律意見、法律建議,亦不因此成立律師與讀者間之委任關係。法律案件之處理,仍應依個案事實、證據及適用法令綜合判斷;即使涉及相同法律問題,亦可能因具體情況不同而有不同之處理結果。因此,如您已涉及任何法律爭議或有具體法律問題,建議儘速洽詢專業律師,以獲得符合個案情形之法律意見。此外,法令、司法實務見解及相關政策可能隨時修正或變更。本文內容係以發布(或最後更新)時之臺灣法令及司法實務為基礎撰寫,如嗣後相關規範或實務見解有所變動,本文內容亦可能隨之調整,讀者引用或參考本文時,仍應留意最新法令及司法實務之發展。