AI 프로젝트가 조용히 죽는 5가지 방식: 실패는 오류 메시지가 아니라 완료 보고로 온다

AI 프로젝트의 실패는 요란하게 오지 않습니다. 오류 메시지도 취소 공지도 없습니다. 완료 보고의 얼굴을 하고 옵니다. Gartner가 에이전틱 AI 프로젝트의 40% 이상이 2027년까지 취소될 것으로 전망하지만(Gartner), 취소는 차라리 건강한 결말입니다. 더 흔하고 비싼 것은 죽은 줄 모른 채 유지되는 다섯 가지 상태입니다.

방식 1: 완료로 위장한 실패

우리가 초기에 운영하던 번역 에이전트 이야기입니다. 100페이지 문서를 맡기면 언제나 자신 있게 “완료했습니다”라고 보고했는데, 결과물에는 빠진 페이지가 반복해서 나왔습니다. 흥미로운 것은 한 페이지씩 맡기면 훌륭했다는 점입니다. 원인은 태도가 아니라 구조였습니다. 에이전트가 한 번에 다룰 수 있는 범위에는 한계가 있습니다. 그런데 100페이지를 통째로 맡기면서 모든 페이지가 들어갔는지 확인할 기준을 주지 않았습니다.

이것이 대기업에서도 재현된다는 것을 보여준 사건이 딜로이트가 호주 정부에 낸 보고서입니다. 있지도 않은 논문을 인용한 채 최종 품질 검토까지 통과해 납품됐고, 결국 일부 환불로 이어졌습니다. 탐지 신호: 산출물 검수에서 ‘있는 것의 오류’만 보고 ‘있어야 하는데 없는 것’을 확인하는 절차가 없다면, 이 방식의 사망이 진행 중일 수 있습니다.

방식 2: 한 사람의 수작업 연명

대시보드는 매일 갱신되고 보고서는 제때 나옵니다. 그런데 담당자 한 명이 매일 아침 30분씩 예외를 손으로 메우고 있습니다. 자동화는 데모에서만 완전하고, 실제로는 그 사람의 헌신이 시스템의 일부가 된 상태 — 그의 휴가와 함께 프로젝트도 멈춥니다. 탐지 신호: “담당자가 자리를 비우면 이 파이프라인이 돌아가는가”에 아무도 자신 있게 답하지 못하는 것. 전환 완료의 5가지 확인 조건 중 ‘독립성’이 정확히 이것을 겨눕니다.

방식 3: 발표회가 종착지

파일럿이 성과를 냈고 전사 발표회에서 박수를 받았습니다. 그리고 거기서 끝났습니다. 발표 다음 칸에 무엇이 오는지(어느 팀으로 확대, 옛 방식 언제 종료) 아무도 정하지 않았기 때문입니다. 성공은 기록됐지만 일하는 방식은 아무것도 바뀌지 않은, 가장 한국적인 사망 방식입니다. 탐지 신호: 성공 사례 발표 자료는 쌓이는데 그 사례가 표준 업무 절차 문서에 반영된 적이 없는 상태.

방식 4: 사후 채점

합격 기준을 결과가 나온 뒤에 정하는 방식입니다. 결과물을 보고 나서 “이 정도면 됐다”고 판정하면, 기준은 이미 나온 결과에 맞춰 휘어집니다 — 답안을 다 본 뒤 채점 기준을 정하는 것과 같습니다. 이 프로젝트는 영원히 성공합니다. 어떤 결과가 나와도 기준이 따라가 주기 때문입니다. 그리고 영원히 성공하는 프로젝트는 사업 성과와 연결될 수 없습니다. 탐지 신호: 프로젝트 킥오프 문서에 정량적 합격 조건과 금지선이 없고, 회고 문서마다 “소기의 성과 달성”이라는 문장이 반복되는 것.

방식 5: 좀비화

접는 조건이 정의된 적 없어, 성공도 실패도 판정되지 않은 채 예산과 인력을 계속 소모하는 상태입니다. 방식 1~4를 통과한 프로젝트의 최종 형태이기도 합니다. 좀비가 위험한 것은 그 자체의 비용보다 학습 효과 때문입니다 — 좀비가 쌓인 조직은 “AI는 해봤는데 안 되더라”는 결론에 도달하고, 다음 시도의 예산을 잃습니다. 탐지 신호: 6개월 이상 된 파일럿 중 확대 결정도 종료 결정도 없이 유지되는 것이 하나라도 있는 상태.

다섯 방식의 공통 백신

다섯 사망 방식의 공통점은 전부 시작할 때 정하지 않은 것 때문에 죽는다는 것입니다. 백신도 그래서 하나로 모입니다 — 시작일에 한 페이지로 적는 것: 합격 조건과 금지선(방식 1·4 예방), 독립성 확인 계획(방식 2), 발표 다음 칸 — 확대 경로와 옛 방식 종료 조건(방식 3), 그리고 접는 조건(방식 5). 이 한 페이지의 상세 설계는 AI 파일럿의 함정: 종료 조건에서 다뤘습니다.

조직 차원의 실패 구조(개인 분산·축적·단절)는 AI 도입이 회사를 못 바꾸는 3가지 이유와 짝입니다 — 그 글이 왜 성과가 안 나는지를 다룬다면, 왜 실패가 보이지 않는가. 그 이야기입니다. 진행 중인 프로젝트가 다섯 방식 중 어디에 있는지 무료 AX 진단으로 점검하고, 구조 재설계는 상담에서 시작할 수 있습니다.

자주 묻는 질문

AI 프로젝트 실패율이 실제로 얼마나 되나요?

Gartner는 에이전틱 AI 프로젝트의 40% 이상이 2027년 말까지 취소될 것으로 전망하고(Gartner), MIT 조사에서는 파일럿의 95%가 손익 영향 없이 정체됐습니다(Fortune). 다만 이 숫자들보다 중요한 것은 취소·정체로 집계조차 되지 않는 ‘조용한 사망’이 더 많다는 점입니다.

에이전트가 거짓 보고를 하는 건가요?

의도의 문제가 아니라 구조의 문제입니다. 중단·보고 조건을 정해주지 않으면 에이전트는 누락이 있어도 완료처럼 보고하기 쉽습니다. 처방은 꾸중이 아니라 설계입니다 — 검증 가능한 단위로 나눠 맡기고, 완전성을 확인할 기준(원본 대비 전수 대조 등)을 작업과 함께 주는 것입니다.

이미 좀비가 된 프로젝트는 어떻게 하나요?

지금이라도 판정 기준을 소급 설정합니다 — 4주 안에 정량 합격 조건을 정의하고 측정해, 통과하면 확대 계획을, 미달하면 종료를 결정합니다. 핵심은 종료를 실패가 아니라 계약 이행으로 처리하는 것입니다. 명예로운 종료가 가능한 조직만 다음 시도를 할 수 있습니다.

작은 회사도 이런 관리가 필요한가요?

형식은 줄여도 질문은 같아야 합니다. 무엇이 되면 성공이고, 무엇이 확인되면 접고, 담당자 없이도 돌아가는가. 10인 회사라면 한 페이지가 아니라 다섯 줄이면 됩니다. 규모와 무관하게, 이 다섯 줄이 없는 프로젝트는 조용히 죽는 경로에 이미 올라 있습니다.