1. 책임 분담 frame
| 주체 | 책임 영역 | 적용 법령 |
|---|---|---|
| 솔루션 공급사 | 모델·약관 명시 | 약관의 규제에 관한 법률 |
| 도입 기업 | 적합한 사용·검수 의무 | 변호사법 등 업종별 |
| 사용자 | 출력 검증 의무 | 일반 주의의무 |
2. 알려진 사례
미국 — Mata v. Avianca (2023)
변호사가 ChatGPT가 생성한 가공 판례를 인용해 법원 제재를 받은 사례. 변호사·법무법인의 검수 의무가 명확화되었다.
기타 국내·해외 사례
국내 정식 손해배상 판결은 수집 중. 해외 사례는 책임 소재가 도입 기업·사용자에게 무게가 실리는 경향.
국내 판결 사례 추가 수집 중. 발견 시 본 보고서 갱신.
3. 도입 시 회피 방법
- 출력 검증 의무 SOP — 결과물 2차 검수
- 고지 의무 — "AI 생성" 표시
- 약관 협상 — 책임 한도·SLA 명시
- 로그 보존 — 사고 발생 시 입증 자료
- 업종별 추가 검수 — 로펌·은행은 더 엄격
4. 적용 법령
- 약관의 규제에 관한 법률 — 면책 조항의 효력
- 소비자기본법 — 소비자 피해 분쟁조정
- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 — 투명성·책임
- 변호사법 — 법률 조언 시 추가 검수
결론
환각 risk는 기술 자체로 완전 제거가 불가능. 도입 기업은 검수 SOP·고지 의무·로그 보존의 3종 조치로 책임 분담을 명확화해야 한다. 이 3종이 결여된 도입은 사고 시 도입 기업의 단독 책임으로 전가될 수 있다.