AI 사용 정책, 전면 금지도 전면 개방도 답이 아니다: 데이터×행위 2축 다이얼 설계법

AI 사용 정책을 “허용이냐 금지냐”로 설계하면 반드시 실패합니다. 사고가 무서운 조직은 전부 잠그고 — 그러면 사용은 개인 계정으로 숨어들고 — 뒤처짐이 무서운 조직은 전부 열어 사고를 예약합니다. 작동하는 정책의 질문은 하나입니다. 무엇을(데이터 등급), 어디까지(행위 단계), 어떤 조건에서(권한 요소) 열 것인가. 스위치가 아니라 다이얼을 설계하는 것입니다.

통제를 더하기 전에: 과잉 권한 실사부터

새 정책을 쓰기 전에 해야 할 일이 있습니다. AI가 위험한 첫 번째 이유는 새로운 침입이 아니라 묵은 과잉 권한의 증폭이기 때문입니다. M365 코파일럿 도입 기업들에서 임원 이메일과 인사 문서가 검색에 노출된 사례들의 공통점은, 코파일럿이 권한을 뚫은 것이 아니라 오래전부터 열려 있던 권한을 따라 작동했을 뿐이라는 것입니다. 찾기 어려워서 사실상 안전했던 정보를, AI가 자연어 질문 하나로 찾아주게 된 것뿐입니다.

규모는 실측돼 있습니다. 보안업체 바로니스가 1,000개 기업 환경, 약 100억 개 클라우드 자원을 분석한 결과 99%의 조직에서 AI 도구에 노출될 수 있는 민감정보가 확인됐고, 민감도 등급을 파일에 적용한 조직은 10곳 중 1곳뿐이었습니다(Varonis State of Data Security Report). AI 정책의 첫 조항은 챗봇 금지가 아니라 권한 실사여야 하는 이유입니다.

다이얼의 두 축

정책의 뼈대는 2차원 매트릭스입니다.

데이터 ＼ 행위	조회·요약	분석·초안	원본 수정	외부 전송·비가역 실행
공개	자유	자유	자유	검토 후
내부	자유	자유	조건부	승인 필수
기밀	조건부	조건부	승인 필수	원칙 금지
제한	승인 필수	원칙 금지	금지	금지

표의 값은 예시이고, 채우는 것은 각 조직의 몫입니다. 중요한 것은 구조입니다 — “ChatGPT 써도 되나요?”라는 답할 수 없는 질문이, “내부 데이터로 초안 작성까지는 자유, 외부 전송은 승인”이라는 답할 수 있는 규칙으로 바뀝니다.

그리고 두 축은 기본 등급을 정할 뿐입니다. 실제 허용 여부를 정할 때는 다섯 요소를 함께 따집니다 — 누가(신원·역할), 왜(업무 목적), 무엇으로부터(입력 출처 — 외부 이메일·웹 문서는 신뢰할 수 없는 입력으로 분리), 어디서(승인된 도구·실행 환경), 언제까지(유효기간). 조건부 권한과 예외 승인에는 예외 없이 승인자 이름과 만료일을 함께 답니다. 만료일 없는 예외는 6개월 뒤의 과잉 권한이 됩니다.

연결이 늘수록 공격면이 커진다

에이전트 시대의 위험은 사용자 수가 아니라 연결 수에 비례합니다. 권한을 하나 잘못 열어 주면 에이전트가 수천 건을 그대로 처리하고, 그 결과를 다른 에이전트가 재사용하면 노출 범위는 배가됩니다. 2025년 공개된 에코리크(EchoLeak, CVE-2025-32711)는 사용자가 링크를 누르지 않아도 — 조작된 이메일이 코파일럿의 검색 맥락에 포함되는 것만으로 — 데이터가 유출될 수 있음을 보여줬습니다(SOC Prime). 교훈은 두 가지입니다. 외부 콘텐츠 안의 문장을 명령으로 실행하지 않도록 데이터와 지시를 분리할 것, 그리고 하나의 차단 통제만 믿지 말 것.

정책이 작동하려면: 문서가 아니라 경로

정책 문서를 배포하는 것과 정책이 작동하는 것은 다릅니다. 세 가지가 갖춰져야 작동합니다.

1. 허용 경로가 금지 경로보다 편해야 한다 — 승인된 도구가 개인 계정보다 불편하면 정책은 종이로 남습니다. 66%가 비승인 도구를 쓰는 현실(PagerDuty)의 절반은 승인 도구의 불편이 만든 것입니다.
2. 회색지대의 기본값을 정해 둔다 — 매트릭스에 없는 새 상황은 “일단 낮은 등급으로 허용 + 기록 + 사후 등급 부여”처럼 기본 규칙을 정합니다. 회색지대마다 문의가 필요하면 문의 대신 은폐가 옵니다.
3. 책임선을 명확히 한다 — 품질 검증·민감정보 보호·고객 고지를 누가 책임지는지 정해야 직원도 안심하고 정책 안에서 움직입니다.

기술적 가드레일(데이터 등급·감사 로그) 구현은 회사 데이터를 AI에 넣어도 되나에서, 정책이 있어도 숨는 심리·보상 구조는 섀도 AI는 보상 문제다에서 다뤘습니다. 우리 조직의 데이터·보안 준비도는 무료 AX 진단으로 확인할 수 있습니다.

자주 묻는 질문

일단 전면 금지하고 준비되면 여는 게 안전하지 않나요?

전면 금지는 사용을 없애는 것이 아니라 보이지 않게 만듭니다 — 사무직 66%가 비승인 AI를 쓰고 그중 71%가 민감 데이터를 입력한 경험이 있습니다(PagerDuty). 금지 기간이 길수록 통제 밖 사용 습관만 굳습니다. 낮은 등급부터 여는 다이얼 방식이 실질 위험을 더 줄입니다.

AI 사용 정책에 꼭 들어가야 할 항목은 무엇인가요?

최소 다섯입니다: ① 데이터 등급 정의(공개·내부·기밀·제한), ② 행위 단계별 허용 매트릭스, ③ 조건부 권한의 요소(목적·출처·환경·기한), ④ 회색지대 기본 규칙, ⑤ 검증·고지·보안의 책임자. 도구 목록보다 이 구조가 먼저입니다 — 도구는 바뀌어도 구조는 남습니다.

우리는 작은 회사라 이런 체계가 과하지 않나요?

매트릭스의 크기는 조직에 맞추면 됩니다. 10인 회사라면 데이터 2등급(공개/비공개) × 행위 2단계(작성/전송)로 시작해도 됩니다. 과한 것은 체계가 아니라 무정책 상태입니다 — 규모와 무관하게 고객 데이터 유출 한 건의 비용이 정책 수립 비용보다 큽니다.

이미 열려 있던 권한은 어떻게 정리하나요?

민감도 등급이 없는 상태에서는 정리 자체가 불가능하므로 순서는 ① 핵심 저장소부터 민감도 태깅 → ② 접근 권한과 실제 사용의 대조(안 쓰는 권한 회수) → ③ AI 도구 연결은 태깅된 영역부터 단계 개방입니다. 이 실사 과정 설계는 상담에서 함께 잡을 수 있습니다.