법원행정처가 소송에서 AI(인공지능)를 활용 여부를 명시하고, 가짜 판례나 증거를 제출할 시 과태료를 부과하도록 하는 소송법 개정안을 검토한다.

법원행정처는 31일 ‘AI 활용 허위 주장·증거 제출 대응 TF(팀장 장지용)’ 활동 결과를 발표했다. 법원행정처는 지난해 11월부터 법관 8인, 변호사 2인으로 구성된 TF를 꾸리고 AI로 인한 사회적 비용을 줄이기 위한 방안을 논의해 왔다.

TF는 AI 활용 여부를 명시하도록 하는 소송법령 개정안을 법원행정처에 제시했다. 당사자나 변호사가 AI 활용 사실을 법원에 고지하고, 서류에 기재한 내용이 정확한지 여부를 확인하도록 하는 내용의 민사소송규칙 개정안 등이다. 허위 법령을 인용할 경우 과태료를 부과할 수 있도록 하는 소송법 개정안도 제안했다.

제출 내용이 허위인지 가릴 수 있도록 전산시스템을 개편하는 방안도 제시했다. TF는 “법원에서 제출된 서류에 인용된 법령, 판례의 존부, 서류에 기재된 내용과 실제 내용의 유사도 등을 자동으로 알려주는 기능 개발을 제안한다”고 했다.

판례의 허위 여부를 알려주는 판결 공개 확대 서비스도 제안했다. TF 제안에 따라 지난달 20일 사법정보공개포털에 ‘허위 사건번호 확인’ 기능이 추가됐다. 사건번호를 입력하면 “사건번호가 존재한다” 혹은 “사건번호가 존재하지 않는다. 허위 정보일 수 있으니 주의 바란다”고 알려주는 시스템이다.

TF는 “생성형 AI의 확대는 거스를 수 없는 시대적 흐름이며, 법원은 이에 따른 변화와 위험에 체계적으로 대비할 필요가 있다”며 “현 시점에서 검토 가능한 대응방안을 정리하고, 향후 인공지능 기술과 실무환경 변화에 능동적으로 대응하기 위한 기초를 다졌다는 점에 의의가 있다”고 했다.

이는 각급 법원에서 소송당사자 등이 AI의 환각(hallucination) 현상으로 허위 법령·판례를 인용한 사례가 다수 보고된 데 따른 것이다. 지난해 8월 서울북부지법에서는 원고 당사자가 인공지능이 만들어낸 가짜 판례를 인용하는 일이 있었다. 재판부는 판결문에 “존재하지 않는 사건번호”라고 적시했다. 존재하지 않는 판례를 인용해 재판부가 “원문을 제출하라”고 요구하는 일도 보고되고 있다.

법원행정처는 TF 제안을 내부에서 검토한 뒤 추진 여부를 결정할 방침이다. 법원행정처 관계자는 “TF의 제안 중 바로 추진할 수 있는 것과 장기적으로 추진할 과제 등을 선별해 논의를 거쳐야 할 것 같다. 입법이 필요한 부분은 변호사단체 등의 의견 수렴을 거쳐야 할 걸로 보인다”고 했다.