호주에서 지난해, 한 변호사가 이민 사건 항소 준비 과정에서 AI(챗GPT 등)를 활용해 생성한 판례 요약을 검증 없이 법원 제출 서류에 포함시켰다가 큰 논란이 일어났습니다. 시간에 쫓기고 허리 부상 등으로 세부 확인을 생략한 결과, 제출된 문서에 인용된 17개의 판례가 실제로 존재하지 않는 것으로 드러났고, 이 사건은 연방법원에서 거론되어 해당 변호사가 사과하는 사태로 이어졌습니다. 법원은 이 문제를 뉴사우스웨일즈 법률 서비스 위원회에 회부했으며, 이와 함께 AI의 생성형 기능이 잘못된 정보를 만들어내는 ‘할루시네이션’ 문제에 대한 경계가 높아지고 있습니다.

​

또한, 호주 내에서는 변호사들이 AI 소프트웨어를 활용하는 사례가 증가하고 있지만, 신중한 검증 없이 사용한 사례가 여러 번 보고되고 있습니다. 미디어 기업 톰슨 로이터가 실시한 설문 조사에 따르면, 일부 법률회사에서는 AI 사용에 대해 실험적으로 접근하고 있으며, 한편으로는 법률 관련 AI 도구에 대한 수요도 증가하고 있는 것으로 나타났습니다. AI 기반 법률 소프트웨어 ‘리프(Leap)’의 경우, 전문 변호사의 검증 프로세스를 제공하도록 설계되었지만, 이번 사례처럼 AI가 잘못된 정보를 생성할 위험은 여전히 존재합니다. 이러한 사건들은 법률 분야에서 AI 사용 시 반드시 인간의 확인 과정을 거쳐야 한다는 교훈을 주고 있습니다.

​

@AI의 가짜 판례 생성과 법률 분야의 책임—검증과 윤리적 사용의 필요성@

​

1. 법률 분야에서 AI를 활용할 때 발생할 수 있는 주요 문제점은 무엇인가요?

​

- AI가 생성한 판례나 법률 자료의 정확성 문제, 즉 할루시네이션 현상으로 인해 잘못된 정보가 법적 문서에 포함될 위험을 분석해 보세요.

​

2. 변호사가 AI로부터 받은 정보를 검증하지 않고 제출했을 때 발생할 수 있는 법적·윤리적 문제는 무엇일까요?

​

- 법정에서의 신뢰도 하락, 법률 문서의 부정확성으로 인한 판결에 미치는 영향, 그리고 변호사의 책임 문제를 중심으로 토론해 보세요.

​

3. AI 소프트웨어 제공업체가 윤리적 사용과 검증을 위해 취할 수 있는 조치는 어떤 것들이 있을까요?

​

- 리프(Leap)와 같은 법률 AI 도구가 제공하는 변호사 검증 프로세스, 교육 및 전문적 개발 조치 등 개선 방안을 모색해 보세요.

​

4. 법원과 변호사들이 AI의 결과물을 신뢰할 수 있도록 하기 위해 필요한 제도적, 기술적 개선 방향은 무엇일까요?

​

- AI 결과물의 검증 절차, 법률 관련 AI 도구의 표준화, 그리고 AI 사용 가이드라인 마련 등 구체적인 대응 방안을 논의해 보세요.

​

5. AI를 활용한 법률 업무의 확대와 함께, 향후 법률 분야에서 기대할 수 있는 긍정적 변화와 위험 요소는 무엇일까요?

​

- AI를 통한 업무 효율성 증대와 동시에 발생할 수 있는 오정보 문제, 그리고 이를 해결하기 위한 법률 전문가와 기술 개발자의 협력 방안을 고려해 보세요.

​​

#인공지능 #인공지능윤리 #인공지능뉴스 #인공지능기사 #AI #AI기사 #인공지능세특 #세특 #입시 #AI세특 #GPT #GPT4 #ChatGPT #인공지능용어 #인공지능지식 #인공지능상식 #AI상식 #AI용어 #AI지식 #AI기술 #법률AI #가짜판례 #할루시네이션 #AI검증 #인공지능법률 #법조윤리 #생성형AI #법률문서오류