AI와의 대화, 법정의 새로운 ‘스모킹 건’이 되다
과거의 소송에서 결정적 증거가 ‘갈겨쓴 메모’나 ‘비밀리에 녹음된 테이프’였다면, 현대의 법정은 이제 AI와의 채팅 로그에 주목하고 있다. 사용자가 AI에게 건네는 질문과 피드백은 단순한 대화 이상의 의미를 지닌다. 그것은 사용자의 내심(inner thoughts), 의도, 그리고 지식의 수준을 적나라하게 보여주는 디지털 지문이기 때문이다.
1. 디스커버리(Discovery) 제도와 AI 데이터의 만남
미국을 비롯한 영미법 권역의 디스커버리(증거개시) 제도는 재판 시작 전 양측이 보유한 증거를 서로 공개하도록 강제한다. 과거에는 이메일, 슬랙(Slack), 메시지 등이 주 타깃이었으나, 이제는 챗GPT나 제미나이 같은 AI와의 대화 기록이 그 리스트의 상단에 올랐다.
- 망각 없는 기록: 인간의 기억은 왜곡되지만, 클라우드에 저장된 AI 로그는 사용자의 질문을 토씨 하나 틀리지 않고 보존한다.
- 검색과 추출의 용이성: 수만 페이지의 서류를 뒤지는 대신, 특정 키워드나 시점별로 AI 대화 이력을 추출하여 피고의 유죄나 과실을 입증하는 것이 훨씬 수월해졌다.
2. 왜 AI 로그가 핵심 증거가 되는가?
AI와의 대화는 타 매체와 차별화되는 결정적 특징을 지닌다.
- 가장 솔직한 자백의 공간: 사람들은 타인에게 숨기고 싶은 비밀이나 범죄 계획을 AI에게는 거리낌 없이 털어놓는 경향이 있다. 예를 들어 “흔적 없이 자금을 세탁하는 법”이나 “독성 물질의 배합비”를 묻는 행위는 그 자체로 강력한 범행 의도(Mens Rea)를 뒷받침하는 증거가 된다.
- 인지 여부의 확증: 제조물 책임 소송에서 피고가 “위험성을 몰랐다”라고 주장하더라도, AI에게 해당 결함에 대해 상세히 상담한 기록이 발견된다면 그 항변은 즉시 무력화된다.
- 영업 비밀 및 저작권 침해: 코딩 AI에게 경쟁사의 소스코드를 입력해 수정을 요청하거나, 특정 저작물을 무단 가공하려 했던 시도는 고의적 침해를 입증하는 결정적 단서가 된다.
3. 법적·윤리적 쟁점과 과제
AI 데이터를 증거로 채택하는 과정에는 복잡한 논쟁이 수반된다.
- 프라이버시 경계의 모호성: AI와의 대화를 ‘일기장’과 같은 사적 영역으로 볼 것인지, 서비스 제공자에게 전달된 ‘공적 기록’으로 볼 것인지에 대한 법적 해석이 분분하다.
- 환각(Hallucination)의 함정: AI가 생성한 허위 정보가 마치 사용자의 확고한 사실관계인 것처럼 오인될 위험이 있다. 질문 자체는 호기심이었으나 AI의 답변이 범죄 모의처럼 보일 수 있다는 점이 문제다.
- 데이터 보존의무(Legal Hold): 소송이 예견되는 시점에서 AI 대화 로그를 삭제하는 행위는 ‘증거 인멸’로 간주되어 법적 불이익을 초래할 수 있다.
결론: 투명해지는 인간의 내면
AI는 인간을 돕는 도구인 동시에, 사용자가 누구이며 무엇을 획책하는지를 가장 잘 아는 디지털 목격자다. 디스커버리 절차를 통해 AI 로그가 법정으로 소환되는 순간, 인간의 내밀한 의도는 더 이상 추상의 영역에 머물지 않고 데이터로서 증명된다.
결국 “AI에게 무엇을 물었는가”가 한 사람의 무죄와 유죄를 가르는 시대가 도래했다. 우리가 AI와 나누는 모든 대화가 언젠가 법정에서 낭독될 수 있다는 사실은, 기술 시대를 살아가는 우리에게 새로운 윤리적 성찰과 주의를 요구한다.
Leave a Reply