AI 업무의 결과를 다시 확인하려면 기록이 필요하다. 그러나 ‘나중에 문제를 찾을 수 있게 전부 저장하자’는 접근은 검증 목적과 정보 보호를 동시에 해결하지 못한다. 기록마다 왜 필요한지, 무엇을 담는지, 누가 보는지, 언제 지우는지, 외부로 나가는지를 분리해야 한다. KAAI 조직 AX 리포트 제01호는 로그의 양보다 목적과 접근·보존을 설명할 수 있는 구조를 제안한다.
증거 로그와 원문 보관은 같은 일이 아니다
업무가 제대로 수행됐는지 확인하려면 시작 시각, 사용한 자료, 실행한 행동, 결과 버전, 검토와 수정 같은 흔적이 필요할 수 있다. 하지만 그 사실이 모든 원문과 개인정보를 같은 기간 보관해야 한다는 결론으로 이어지지는 않는다. 오류 재현에 필요한 실행 메타데이터, 주장 확인에 필요한 출처 위치, 승인 책임을 확인하는 기록, 실제 원문 내용은 목적과 민감도가 다르다.
AI 증거 로그를 목적별로 분리하는 다섯 질문
| 질문 | 정할 내용 | 피해야 할 기본값 |
|---|---|---|
| 왜 남기는가 | 오류 재현, 품질 검토, 책임 확인 등 구체적 목적 | 언젠가 쓸 수 있으니 모두 저장 |
| 무엇을 남기는가 | 실행·출처·버전·검토 기록과 원문 내용을 분리 | 필요 범위 구분 없는 원문 복제 |
| 누가 보는가 | 운영·품질·보안·업무 책임자의 역할별 접근 | 공용 계정과 광범위한 열람 |
| 언제 지우는가 | 업무 목적, 내부 정책, 필요한 전문 검토에 따른 보존·삭제 | 기간과 삭제 책임이 없는 무기한 보관 |
| 외부로 나가는가 | 외부 서비스, 저장 위치, 하위 처리와 계약 조건 확인 | 도구를 썼다는 이유로 외부 처리를 추정 |
신뢰성은 정확도 한 숫자로 끝나지 않는다
한국지능정보사회진흥원(NIA)은 미국 FTC의 AI 정확성 정책성명서안을 분석하며 AI 산출물 신뢰를 이용 맥락, 고지, 설계 목적과 책임 배분의 문제로 함께 다뤘다. 이는 NIA가 미국의 정책안에 대해 제공한 웹 요약을 읽은 범위이며, 확정 미국법이나 한국의 법적 의무를 뜻하지 않는다. NIA The LENS 2026-10
운영에 적용하면 같은 문장도 참고용 초안인지, 고객에게 보내는 답변인지, 조직의 결정을 뒷받침하는 자료인지에 따라 필요한 확인 수준이 달라진다. ‘AI 사용’ 표시만 붙인다고 출처와 수정 책임이 사라지지 않는다. 반대로 모든 중간 입력을 보관해야만 책임을 설명할 수 있는 것도 아니다. 목적에 맞는 증거 묶음을 정하고, 중요한 주장과 변경이 다른 담당자에게 재확인되는지 시험해야 한다.
공급사의 보안 설계 설명은 가능성이지 법적 결론이 아니다
Anthropic은 기업용 보호장치 설계에서 여러 세션과 계정에 걸친 악용 신호를 살피려면 시간에 따른 상호연관 검토가 필요할 수 있다고 설명한다. 동시에 고객 소유 저장소, 고객 관리 암호화 키, 접근 정책과 감사 로그, 고객 측 검토로 통제를 나누는 제품 설계를 제시한다. 이는 공급사가 설명한 단계적·예정 기능의 설계이며 일반 제공 완료, 통제 효과, 국내 개인정보 적법성을 증명하지 않는다. Anthropic Enterprise Frontier Safeguards
이 사례에서 가져올 수 있는 것은 특정 제품을 채택하라는 결론이 아니라, 탐지 목적과 고객의 데이터 통제를 함께 묻는 설계 질문이다. 실제 조직에서는 제품 문서, 계약, 저장 위치, 암호화와 접근 설정, 삭제 기능이 실제로 제공되는지 확인해야 한다. 확인할 수 없는 기능은 있다고 가정하지 말고 미확인 항목으로 남긴다.
한 덩어리 로그를 세 묶음으로 나눈다
- 업무 증거: 어떤 입력과 버전으로 무엇을 실행했고 어떤 결과가 나왔는지 기록한다.
- 품질 증거: 중요한 주장·수치의 출처, 검토 결과, 수정·제외 이유를 연결한다.
- 운영 통제: 접근 주체, 저장 위치, 보존·삭제 조건, 외부 처리 범위를 관리한다.
세 묶음은 연결되지만 같은 파일일 필요는 없다. 검토자가 품질을 확인하는 데 필요한 정보와 시스템 관리자가 접근 이상을 조사하는 정보, 업무 책임자가 결과 버전을 확인하는 정보는 역할이 다르다. 최소 권한과 목적 제한을 적용하려면 먼저 이 역할을 분리해야 한다.
법적 판단 전에도 할 수 있는 운영 질문이 있다
이 글은 특정 보존 기간이나 개인정보 처리의 법적 요건을 제시하지 않는다. 실제 개인정보·기밀정보를 다루는 업무는 조직의 정책과 해당 분야 책임자·전문가 검토가 필요하다. 다만 그 전에도 로그 목적이 문장으로 설명되는지, 필요한 필드와 원문이 구분되는지, 접근자가 역할별로 나뉘는지, 삭제 책임이 있는지, 외부 처리 경로를 확인했는지는 점검할 수 있다.
좋은 증거 로그는 많아서 좋은 것이 아니다. 다른 담당자가 결과와 변경 이유를 재확인할 만큼 충분하고, 목적을 벗어난 정보는 불필요하게 남기지 않으며, 접근과 삭제의 책임을 설명할 수 있을 때 유용하다. 로그 설계의 첫 문장은 저장 기술이 아니라 ‘이 기록으로 어떤 질문에 답할 것인가’여야 한다.