교육이 먼저냐 구축이 먼저냐: 진단→교육→구축→케어로 끝까지 가는 AI 전환
기업 AI 전환에서 교육과 구축 중 무엇이 먼저인가. 둘은 순서가 아니라 한 흐름이다. 일회성 특강이 실패하는 이유와 진단·교육·구축·케어를 잇는 전환 파트너 방식을 맥킨지·BCG·MIT·대한상의 데이터로 짚는다.
교육이 먼저냐 구축이 먼저냐
결론부터 말합니다. 교육과 구축은 순서를 다투는 두 선택지가 아닙니다. 하나의 흐름입니다. 교육만 하면 배운 것이 직원 머릿속에 흩어진 채 끝나고, 회사가 일하는 방식은 그대로입니다. 구축만 하면 만든 사람만 쓰는 도구로 남습니다. 그래서 우리는 진단 → 교육 → 구축 → 케어를 끊지 않고 잇습니다. 진단으로 어디가 새는지 찾습니다. 교육으로 AI 를 부리는 손을 만듭니다. 구축으로 사람 없이 돌아가는 시스템을 세웁니다. 케어로 그 시스템을 지킵니다.
숫자를 보겠습니다. 맥킨지 2025년 〈The State of AI〉에 따르면 응답 기업의 88%가 한 개 이상 업무에 AI를 정기적으로 쓰지만(1년 전 78%에서 상승), 전사적으로 의미 있는 EBIT(영업이익) 영향을 본 기업은 39%에 그쳤고, 5% 이상 EBIT 영향을 내는 ‘AI 고성과 기업’은 단 6%였습니다(McKinsey, 2025). 쓰기는 다 쓰는데 성과로 이어지는 곳은 거의 없다는 뜻입니다.
이 격차는 도구를 더 쓴다고 좁혀지지 않습니다. 왜 생기는지, 교육과 구축을 한 줄로 꿰는 방식이 왜 답인지 데이터로 풀어봅니다.
교육만 해서는 왜 실패하는가
가장 흔한 출발점이 일회성 특강입니다. 외부 강사를 불러 두세 시간 “프롬프트 잘 쓰는 법”을 듣습니다. 직원 만족도 설문은 5점 만점에 4점을 넘깁니다. 그리고 한 달 뒤, 회사가 일하는 방식은 특강 전과 똑같습니다.
강사 탓이 아닙니다. 구조 탓입니다. BCG는 2025년 〈The Widening AI Value Gap〉에서 AI 가치의 10%만 알고리즘에서, 20%가 기술 구현에서 나오고, 나머지 70%는 사람과 프로세스를 다시 설계하는 데서 나온다고 정리했습니다(10-20-70 법칙). 같은 연구에서 약 60%의 기업이 AI 투자에도 의미 있는 가치를 거의 또는 전혀 내지 못했고, AI 가치를 제대로 규모화한 기업은 약 5%에 불과했습니다(BCG, 2025).
BCG의 진단은 날카롭습니다. AI 가치를 규모화한 상위 5% ‘미래형 기업(future-built)‘은 라이벌 대비 매출 증가는 5배, 비용 절감은 3배를 기록했습니다. 같은 연구에서 BCG는 가치를 만드는 기업과 못 만드는 기업을 가르는 결정적 차이로 알고리즘이 아니라 사람·프로세스 재설계(70%)를 지목합니다(BCG, 2025).
즉 일회성 특강은 70%(사람·프로세스 재설계)를 건드리지 못한 채 끝납니다. 지식은 전달됐지만 그 지식이 흘러갈 수로(업무 프로세스)가 없으니 고여서 증발합니다. 우리가 정의하는 AI 도입 실패의 세 패턴이 정확히 여기서 나옵니다 — 개인에게만 흩어지고(개인 분산), 회사 자산으로 축적되지 않고(축적 안 됨), 도구와 실제 업무가 따로 노는 것(시스템 단절).
구축만 해도 답이 아닌 이유
그렇다면 교육은 건너뛰고 잘 만든 시스템을 사다 쓰면 될까요. 이것도 답이 아닙니다. MIT 미디어랩 NANDA 이니셔티브의 2025년 〈The GenAI Divide〉는 더 충격적입니다. 기업 생성형 AI 파일럿의 약 95%가 손익계산서에 측정 가능한 수익을 거의 내지 못하고, 빠른 매출 가속을 만드는 곳은 약 5%에 불과했습니다(MIT NANDA / Fortune, 2025).
이 보고서의 핵심 진단은 “학습 격차(learning gap)“입니다. ChatGPT 같은 범용 도구는 개인에게는 잘 통하지만, 기업 안에서는 업무 흐름을 배우거나 적응하지 못한다는 점이 발목을 잡았습니다. 회사 맥락을 학습하지 못하는 범용 도구는 조직 안에서 겉돕니다.
여기 또 하나의 반전이 있습니다. MIT 조사에서 전문 벤더에게서 도구를 사거나 외부와 파트너십을 맺은 경우 약 67%가 성공한 반면, 내부 자체 구축의 성공률은 그 3분의 1 수준(약 20%대)에 그쳤습니다. 성공한 조직들은 중앙 AI 랩이 아니라 현장 라인 관리자에게 주도권을 줬고, 한 가지 명확한 통점에 좁게 집중했습니다(MIT NANDA / Fortune, 2025).
구축은 “현장이 쓸 수 있게” 만들어져야 하고, 그러려면 현장이 먼저 AI를 부릴 줄 알아야 합니다. 교육 없는 구축은 만든 사람만 쓰는 시스템으로, 구축 없는 교육은 쓸 곳 없는 지식으로 끝납니다. 그래서 둘은 한 흐름이어야 합니다.
인식 78%, 실제 활용 31%. 한국 기업의 현실
이 격차는 한국에서 특히 큽니다. 대한상공회의소가 산업연구원과 함께 국내 기업 500개사를 조사한 〈국내 기업 AI 기술 활용 실태조사〉에 따르면, AI가 성과 향상에 필요하다고 답한 기업은 78.4%였지만 실제 경영활동에 AI를 활용 중인 기업은 30.6%에 그쳤습니다. 나머지 69.4%는 “활용하지 않는다”고 답했습니다(대한상공회의소·산업연구원, KDI).
업종별 격차도 뚜렷합니다. 제조업의 AI 활용률은 23.8%로 서비스업의 53%에 크게 못 미쳤습니다. 기업 규모별로도 대기업 48.8%, 중소기업 28.7%로 벌어졌고, 수도권(40.4%)과 비수도권(17.9%)의 차이도 컸습니다. 필요성은 모두가 인식하는데 실제 도입으로 넘어가지 못하는 전형적인 “인식-실행 간극”입니다.
표면적 이유는 인프라와 비용이지만 그 아래에는 “어디부터 손대야 할지 모르겠다”, “도입했는데 직원이 안 쓴다”, “만들어도 유지가 안 된다”는 문제가 깔려 있습니다. 진단으로 시작점을 찾고, 교육으로 사용을 일상화하고, 구축으로 업무에 박아넣고, 케어로 유지하는 한 흐름이 없으면 78%의 인식은 영원히 30%대의 실행에 머뭅니다.
진단→교육→구축→케어, 한 흐름으로 잇는 법
순서 논쟁의 답은 “교육 먼저”도 “구축 먼저”도 아닌, 진단으로 먼저 시작하고 교육과 구축을 맞물려 돌리는 것입니다.
1단계 진단. 무엇을 자동화할지부터 가립니다. 자동화에 맞는 일은 반복되고(✓반복), 연결되고(✓연결), 데이터가 쌓이고(✓누적), 스스로 복구되는(✓복구) 일입니다. 반대로 최종 결정, 신뢰가 걸린 판단, 창의가 필요한 일은 사람이 쥡니다.
2단계 교육. “쓸 줄 아는” 수준을 넘어 “부리는” 수준으로 끌어올립니다. T.I.G.E.R(Task·Input·Goal·Example·Refine) 같은 실전 프레임으로 직원이 자기 업무를 AI에게 정확히 시키게 합니다. BCG가 말한 70%(사람 재설계)를 직접 건드리는 단계입니다.
3단계 구축. 길러진 손이 진단으로 찾은 업무를 시스템으로 바꿉니다. 편집기(Phase 1) → 핸드오프(Phase 2) → 자율 시스템(Phase 3)으로 단계를 밟으며 Context Engineering·MCP·Multi-Agent·CLI 자동화를 씁니다. 핵심은 Harness Engineering — 권한·감사·롤백·한도를 처음부터 설계해 시스템이 폭주하지 않게 만드는 것입니다.
4단계 케어. 만든 시스템은 방치하면 무너집니다. MIT가 짚은 “학습 격차”를 메우는 단계로, 피드백을 반영하고 한도를 조정하고 새 업무를 붙입니다. 2주 단위로 성과를 측정하고 다음 자동화를 정합니다.
우리가 직접 구축한 사례
말이 아니라 자산으로 증명합니다. 우리가 구축한 사례입니다.
- 결재 30분 → 3분. 12개 도구를 묶고 자가복구를 붙여 사람은 최종 승인만 합니다.
- 거래처 등록 자동화. PDF 파싱 + 브라우저 자동화 + 자가복구, 사람은 마지막 승인만 누릅니다.
- HubSpot CRM 자동화. 55개 시트를 QBR·사업계획서로 자동 변환합니다.
- 영업 대시보드. 음성 기록 30분 → 5분, 주간보고 1시간 → 10분.
- 통합 운영. 위키 150건 + 3개 에이전트로 재계약 196건을 처리합니다.
- 웹사이트 제작. 5일·3명 → 1명, 블로그 30건 이상 운영.
- 영상 분석. 1시간 → 3분으로 95% 단축.
공통점은 전부 진단→교육→구축→케어를 거쳤다는 점입니다. 도구만 산 게 아니라 그 도구를 부릴 사람과 박힐 프로세스를 함께 만들었습니다.
일회성 특강과 전환 파트너, 무엇을 사는가
가장 본질적인 구분입니다. 일회성 특강을 사면 “지식”을 삽니다. 전환 파트너를 들이면 “회사가 일하는 방식의 변화”를 삽니다.
MIT 데이터가 보여줬듯 외부 파트너와 함께한 맞춤형 도입은 약 67%가 성공하고 내부 단독 구축은 그 3분의 1 수준에 그칩니다. BCG 데이터가 보여줬듯 가장 큰 가치를 낸 기업은 알고리즘이 아니라 사람·프로세스 재설계(70%)에 집중한 기업입니다. 두 데이터를 합치면 결론은 하나입니다 — 교육과 구축을 한 파트너가 일관되게 끌고 가야 한다. 교육 업체 따로, 구축 업체 따로면 70%(사람)와 30%(기술)가 다시 끊깁니다.
우리의 차별점은 그 일관성입니다. 진단부터 케어까지 한 손이 잡고, 실전 데이터로 증명하며, 2주 단위로 성과를 보여주고, 안 되는 건 안 된다고 정직하게 말합니다. 과장 대신 측정 가능한 변화를 약속합니다.
어디부터 새고 있는지 모르겠다면 거기서부터 시작하면 됩니다. 무료 진단으로 우리 회사의 시작점을 확인하거나 바로 상담을 신청하세요. 더 큰 그림이 궁금하다면 에이전틱 AI 자동화, 어디서부터 시작할까를 함께 보시길 권합니다.
자주 묻는 질문
교육과 구축, 정말 동시에 가야 하나요? 예산이 한정적이면요?
순서는 진단이 먼저입니다. 진단으로 가장 효과 큰 한두 개 업무를 고른 뒤, 그 업무에 한해 교육과 구축을 맞물려 진행하는 게 예산 효율이 가장 높습니다. MIT 조사에서 성공한 조직들은 전사 확산이 아니라 “한 가지 명확한 통점에 좁게 집중”했습니다(MIT NANDA / Fortune, 2025). 작게 시작해 성과를 증명하고 확장하는 편이 안전하고 빠릅니다.
일회성 특강은 전혀 의미가 없나요?
인식을 깨우는 출발점으로는 의미가 있습니다. 다만 특강만으로 끝나면 BCG가 지적한 70%(사람·프로세스 재설계)를 건드리지 못해 효과가 증발합니다(BCG, 2025). 특강을 진단·구축·케어로 이어지는 흐름의 첫 단추로 설계하면 같은 비용으로 훨씬 오래 가는 변화를 만들 수 있습니다.
우리 회사 데이터로 쓸수록 똑똑해지는 시스템을 만들 수 있나요?
그게 핵심입니다. MIT가 짚은 95% 실패의 근본 원인은 “학습 격차” — 시스템이 업무 흐름을 배우거나 맥락에 적응하지 못하는 것이었습니다(MIT NANDA / Fortune, 2025). 우리는 케어 단계에서 피드백을 반영하고 회사 맥락을 학습시켜 쓸수록 나아지는 시스템을 만들고, Harness Engineering으로 권한·감사·롤백·한도를 걸어 안전하게 운영합니다.
자체 구축 팀이 있는데도 외부 파트너가 필요한가요?
MIT 데이터는 외부 파트너 도입이 약 67% 성공한 반면 내부 단독 구축은 그 3분의 1 수준에 그쳤다고 보고합니다(MIT NANDA / Fortune, 2025). 내부 팀이 있다면 우리는 그 팀과 함께 갑니다. 교육으로 내부 역량을 끌어올리고 초기 구축 패턴을 함께 만든 뒤, 케어와 확장은 내부가 이어받게 핸드오프하는 방식이 가장 지속 가능합니다.
성과는 언제부터 보이나요?
우리는 2주 단위로 성과를 측정합니다. 우리가 구축한 결재 자동화는 30분을 3분으로, 영상 분석은 1시간을 3분으로 줄였습니다. 다만 전사적 EBIT 영향까지는 시간이 걸립니다 — 맥킨지 조사에서 88%가 AI를 쓰지만 6%만 고성과에 도달한 이유입니다(McKinsey, 2025). 작은 업무에서 빠른 성과를 증명하고 그걸 발판으로 전사 변화로 확장하는 게 현실적인 경로입니다.
