미국의 30년 경력 변호사가 법원에 내는 서류 준비 과정에서 대화형 인공지능(AI)인 챗GPT에 의존했다가 법원 청문회에 회부될 처지에 놓였다. 챗GPT에게 법률 자료를 찾아달라고 하자, AI가 가상의 판례를 창작해 제시한 것이다. 해당 변호사는 '가짜 판례'가 담긴 서류를 제출해 변호사 윤리를 어겼다는 이유로 법원 청문회에 회부될 처지가 됐다.

28일(현지시간) 뉴욕타임스(NYT) 등 미국 현지 언론에 따르면, 케빈 카스텔 뉴욕 맨해튼 연방법원 판사는 가짜 판례가 담긴 서류를 제출한 스티븐 슈워츠 변호사에 대한 징계를 논의하기 위해 다음달 8일 청문회를 열 예정이다.

30년 경력의 슈워츠 변호사는 2019년 엘살바도르에서 뉴욕행 아비앙카항공 여객기를 탔던 승객 로베르토 마타의 사건을 맡았다. 마타는 비행기 탑승 중 기내식 운반용 철제 카트에 부딪혀 무릎을 다쳤다며 항공사를 상대로 소송을 냈다. 아비앙카항공은 항공사건 공소시효(2년)가 지났다며 맨해튼 연방법원에 사건을 기각해달라고 요청했다. 그러자 슈워츠 변호사는 "소송이 그대로 진행돼야 한다"며 6건 이상의 유사한 판례를 담은 10페이지 분량의 의견서를 법원에 제출했다.

문제는 슈워츠 변호사가 제출한 판례 중 최소 6건이 거짓이었다는 것이다. 항공사 측 변호사는 3월 카스텔 판사에게 보낸 서한에서 "슈워츠의 의견서에 담긴 중국 남방항공 사건 판례는 물론, 2008년 제11연방고등법원이 내린 대한항공 관련 판결문도 도저히 찾을 수 없다"고 호소했다. NYT는 "항공사 측의 변호인단이 '슈워츠의 문건은 챗GPT에 의존해 작성한 것으로 보인다'는 의혹을 제기하며 일이 커졌다"고 전했다.

제11연방고법도 카스텔 판사의 문의를 받고 슈워츠가 제시한 판례의 사건번호를 검색해 보니, 전혀 무관한 다른 사건의 번호였다는 것을 확인했다.

NYT에 따르면 맨해튼 연방법원은 이번 사건을 '전대미문의 상황(unprecedented circumstance)'이라고 규정했다. 카스텔 판사는 슈워츠 변호사의 행위가 변호사 윤리법 위반에 해당되는지 여부를 판단할 것으로 보인다. 미국변호사협회(ABA)가 제정한 '변호사 징계 집행을 위한 표준 규칙(Model Rules for Lawyer Disciplinary Enforcement)'은 '변호사가 고객을 대리하며 고객 이외의 사람에게 중요한 사실 또는 법률에 대해 고의로 허위 진술을 하는 행위를 해서는 안 된다'고 규정한다. 이같은 위법 행위를 한 변호사에게 미국 법원은 자격 정지 또는 박탈 등의 징계를 내릴 수 있다.

슈워츠 변호사는 25일 챗GPT의 도움을 받았다는 사실을 인정하며 법원에 선처를 호소한 것으로 알려졌다. 그는 "법원과 항공사를 속일 의도는 아니었다"며 "이전까지 AI 챗봇을 한 번도 써본 적이 없어서 그 자료들이 가짜일 수 있다는 걸 인지하지 못했다"고 했다. 그러면서 "챗GPT에 '진짜 판례가 맞느냐'고 거듭 확인했으나, 챗GPT가 끝까지 '그렇다'고 주장했다"고 강조했다.

NYT는 "AI가 상당수 전문직의 존립을 위태롭게 한다는 우려가 커지고 있지만 아직 AI가 이들 직종을 대체하기까지 시간이 더 있음을 보여주는 사건"이라고 평했다.