미국 법원에서 인공지능(AI)을 이용한 허위 인용 사례가 1,700건에 육박하며, 1년 만에 7배 증가했습니다

인공지능을 오용한 혐의로 두 차례 제재를 받았던 변호사가 엔터테인먼트 회사 록 네이션을 상대로 한 소송 서류에 인공지능으로 조작한 인용문을 포함시킨 사실이 드러나 연방 판사로부터 다시 한번 질책을 받았다.

점점 더 많은 변호사들이 인공지능을 이용해 법원 서류를 작성하고 검토 없이 제출한 혐의로 심각한 처벌을 받고 있습니다. 2026년 중반까지 법원에는 변호사들이 인공지능 도구로 생성한 허위 법률 인용문을 제출한 사례가 1,667건 기록되었습니다. 

인공지능이 만들어낸 환각 때문에 변호사들이 벌금을 물게 됐다

연구원 다미앙 샤를로탱이 trac한 글로벌 데이터베이스에 따르면, 변호사들이 인공지능을 악용한 사례가 최대 1,667건에 달합니다. 이러한 악용은 주로 공식 법원 문서에 인공지능이 생성한 가짜 인용문을 추가하는 방식으로 이루어졌습니다. 이러한 사건dent빈도는 전년도 230건에 비해 약 7배 증가했습니다. 

최근 미국 치안판사 제니퍼 윌리스는 변호사 타이론 블랙번이 인공지능(AI)과 관련된 "지속적인 행태"를 보였다고 지적하는 명령을 내렸습니다. 블랙번이 제출한 서류에 그가 인용한 판례에 나오지 않는 내용이 포함되어 있다는 사실이 밝혀졌기 때문입니다.

윌리스는 블랙번의 행위가 "윤리적, 직업적 의무를 터무니없이 위반한 것"이라고 비판했다. 블랙번은 이미 지난해 12월 인공지능이 . 또한 작년에는 펜실베이니아 연방 판사가 그에게 허위 인용 혐의로 5,000달러의 벌금을 부과했다.

변호사가 Roc Nation 소송에서 AI 환각을 언급했습니다

가장 최근 사례에서 블랙번 변호사는 래퍼 팻 조의 공연자이자 협업자인 테런스 딕슨을 대리하여 소송을 제기했습니다. 딕슨은 팻 조와 그의 소속사 록 네이션이 고용 관련 부당 행위를 저질렀다고 주장하며 임금 손실 및 기타 피해를 요구했습니다. 록 네이션과 팻 조는 이러한 혐의를 부인했습니다.

지난달 록 네이션은 법원에 블랙번이 근거 없는 주장을 제기했다며 제재를 가해줄 것을 요청했습니다. 이어 블랙번의 반박 서류가 너무 늦게 제출되었고, 인공지능이 만들어낸 허위 인용문이.

블랙번은 자신이 인용한 법원 판결들이 모두 사실이라고 주장하며, 일부 내용은 의역했다고 덧붙였습니다. 하지만 윌리스 판사는 블랙번의 해명이 그의 행위를 "뻔뻔스럽게 축소하려는 것"이라고 지적했습니다.

블랙번은 법원의 명령에 응답하겠다고 밝혔지만, 혐의를 부인하는 입장은 유지하고 있다.  

또 다른 사건으로dent미시시피 북부 지방법원의 샤리온 아이콕 수석 판사는trac양측 변호사가 허위 소환장을 제출한 사실을 발견한 후 계약 소송에 연루된 네 명의 변호사 전원을 자격 박탈했습니다. 자체 한 것이었습니다trac미지급된 변호사 수임료를 이유로 애버딘 시를 상대로 계약 위반 소송을 

위더스는 명목상으로만 자신을 변호했기 때문에 제재를 받지 않았습니다. 그러나 그의 변호사 두 명과 시를 대리한 변호사 두 명은 그렇게 운이 좋지 못했습니다. 캐서린 윌리엄스는 AI 연구 도구를 사용했음을, 캐슬린 윌슨은 생성형 AI를 사용하여 답변서를 작성했음을 인정했지만, 제출 전에 결과를 검증하지 않았습니다. 

윌슨의 주장은 그녀가 인공지능이 사건을 조작할 수 있다는 사실을 몰랐고, 환각에 의한 사건이 무엇인지도 몰랐다는 것이었다. 

에이콕 판사는 변호인 측의 주장을 "부실하고 믿을 수 없다"고 일축했다. 그녀는 재판을 취소했을 뿐만 아니라 변호사들에게 1,000달러에서 3,500달러 사이의 벌금을 부과했다. 또한 윌리엄스와 윌슨은 2년간 해당 관할 구역 법원에서 변호 활동을 할 수 없도록 금지되었다. 

인공지능은 또 어디에서 환각을 일으켰을까? 

월스트리트에서 가장 명망 있는 로펌 중 하나인 설리반 앤 크롬웰은 2026년 4월 뉴욕 연방 법원에 제출한 서류에 허위 오류가 포함되어 프린스 그룹 사건에 개입되었다고 밝혔습니다. 

로펌 구조조정 그룹 공동 대표인 앤드류 디트데리히는 마틴 글렌 판사에게 보낸 서한에서 미국 파산법을 잘못 인용하고 판례를 부정확하게 제시하는 등 일련의 실수에 대해 사과했습니다. 

해당 로펌은 자사의 AI 정책이 준수되지 않았으며, 두 번째 검토 과정에서 서류 제출 전에 잘못된 인용 사항들을 놓쳤다고 밝혔습니다. 하지만 이 사건을 맡은 경쟁 로펌인 보이스 쉴러 플렉스너(Boies Schiller Flexner)에서 이를 발견했습니다.

설리반 앤 크롬웰은 중국 출신 사업가 첸 지가 소유한 프린스 그룹을 상대로 소송을 진행 중인 청산인들을 대리했습니다. 

미국 검찰은 지난해 천즈를 캄보디아에서 운영한 강제 노동 착취 시설과 관련된 사기 및 자금 세탁 혐의로 기소했습니다. 이와 별도로 검찰은 천즈의 범죄 활동으로 얻은 것으로 추정되는 약 90억 달러 상당의 Bitcoin 압수하려 했습니다. 천즈는 캄보디아에서 체포되어 중국으로 송환되었습니다.

인공지능 법률 도구가 계속해서 오류를 범하는 이유는 무엇일까요? 

주요 법률 조사 플랫폼인 Lexis AI와 Thomson Reuters(NYSE: TRI) AI 도구를 사용한 테스트 결과, 잘못된 정보가 17% 이상 발견되었습니다. 일부 테스트에서는 오류율이 34%에 달하기도 했습니다. 

2026년 2월, 미국 주법원협회는 인공지능 환각이 사법 시스템에 대한 위협으로 점점 커지고 있다고 경고했습니다. 

변호사가 인공지능을 사용하는 것이 금지된 것은 아니지만, 변호사는 자신이 제출하는 모든 서류가 정확한지 확인해야 할 윤리적 의무가 있습니다. 

미국변호사협회는 2025년 6월 인공지능(AI) 결과물을 검증하지 않는 것은 변호사의 유능한 법률 대리 의무를 위반하는 행위가 될 수 있다고 경고했지만, 이번 제재 조치는 많은 변호사들이 그 경고를 심각하게 받아들이지 않았음을 보여줍니다.

암호화폐 분야의 최고 전문가들이 이미 저희 뉴스레터를 구독하고 있습니다. 함께하고 싶으신가요? 지금 바로 참여하세요.