(케이스 스터디) 맥킨지의 AI 활용 사례 5가지
(참고 자료: 5 Ways McKinsey Is Using AI [Case Studies] [2026])
인공지능은 이제 더 이상 유망한 실험 단계에 머물지 않고, 전문 서비스 업계 전반의 운영 근간으로 자리 잡고 있습니다. 업계 조사에 따르면, 컨설팅 및 법률 서비스 분야에서 생성형 AI의 도입률은 2023년 33%에서 2024년 71%로 급격히 상승했으며, 이는 업계 전반에서 가장 빠른 수용 속도입니다. 특히 전체 경영컨설팅 프로젝트의 80% 이상이 이제 예측 분석부터 자동화 리서치 어시스턴트까지 다양한 방식으로 AI를 활용하고 있습니다. 이는 지식 중심 산업이 속도와 통찰 확보를 위해 AI를 필수적 도구로 인식하고 있음을 잘 보여줍니다. 또한, 분석가들은 올해 기업의 AI 투자 규모가 3,070억 달러에 이를 것으로 전망하고 있으며, 이에 따라 혁신 연구소에 국한되지 않고 일상 업무 프로세스 전반에 에이전트형 도구를 깊이 통합하려는 경쟁이 치열해지고 있습니다.
맥킨지앤드컴퍼니(McKinsey & Company)는 이러한 변화의 최전선에 있습니다. 약 45,000명의 직원을 보유한 이 컨설팅 기업은 2023년 7월 사내 전용 생성형 AI 플랫폼인 ‘릴리(Lilli)’를 전사적으로 도입한 이후 내부 프로세스를 대대적으로 재구성했습니다. 그 결과, 현재 직원의 72%가 릴리를 활용하고 있으며, 월간 50만 건 이상의 프롬프트를 생성하고 연구 업무 시간의 약 30%를 절감하고 있습니다. 릴리는 맥킨지의 데이터·AI 전문 조직인 퀀텀블랙(QuantumBlack)이 개발했으며, 이는 원클릭 슬라이드 생성기, 셀프서비스형 에이전트 제작툴, 행정 보조 봇, 그리고 엔터프라이즈급 거버넌스 체계로 확장되는 광범위한 스택의 중심축으로 작동하고 있습니다. 따라서 아래에서는 맥킨지가 AI를 통해 어떻게 효율성, 투명성, 그리고 고객 임팩트를 높이는지 그 다섯 가지 구체적인 활용 방식을 살펴보도록 하겠습니다.
1. 릴리(Lilli) – 맥킨지의 생성형 AI 기반 지식 및 리서치 플랫폼
2023년 7월 전사적으로 도입된 이후, 릴리는 빠르게 맥킨지 지식 운영의 신경망 역할을 담당하게 되었습니다. 현재 4만5천 명에 달하는 임직원 중 72% 이상이 매달 릴리를 활용하고 있으며, 매월 50만 건 이상의 프롬프트를 입력해 검색 및 정보 통합에 소요되는 시간을 약 30% 단축하고 있습니다. 컨설턴트들은 주 평균 약 17회 릴리를 사용하며, 이를 통해 매달 약 5만 시간의 업무 효율을 확보해 고객 논의 및 가설 검증에 재투자하고 있습니다. 무엇보다 모든 상호작용은 철저한 ‘제로 트러스트(Zero-Trust)’ 보안 체계 내에서 관리되며, 사내 데이터 저장소, 역할 기반 접근 제어, 그리고 완전한 감사 추적 시스템을 통해 민감한 고객 정보를 보호하고 있습니다.
1.1 릴리의 작동 방식 (RAG, 사내 IP, 전문가 탐색 기능)
릴리는 맥킨지 고유의 데이터 자산에 최적화된 ‘검색 증강 생성(RAG, Retrieval-Augmented Generation)’ 파이프라인 위에 구축되어 있습니다. 이는 10만 건이 넘는 문서, 인터뷰 전사자료, 산업별 플레이북 등 40여 개의 선별된 지식원을 기반으로 합니다. 사용자의 질의는 벡터 임베딩으로 변환되어 내부 인덱스에서 밀리초 단위로 매칭되며, 그중 가장 관련성이 높은 5~7개의 자료가 인용 정보와 함께 제시됩니다. 이어서 시스템은 70개국에 걸친 맥킨지의 전문가 그래프를 교차 참조하여, 후속 자문에 적합한 파트너나 전문가를 자동으로 추천합니다. 또한 퀀텀블랙(QuantumBlack)의 Horizon 툴킷과 LangChain 및 FAISS와 같은 구성 요소들이 아키텍처의 기반을 이루어, 엄격한 거버넌스 하에서도 빠른 모델 개선과 반복이 가능하도록 돕습니다.
1.2 프로젝트 팀에 미친 가시적 영향
사용 패턴 분석 결과, 릴리는 명확한 생산성 향상 효과를 보여주고 있습니다. 컨설턴트당 주당 17회 사용 빈도로 환산할 때, 분기별로 약 200만 건의 질의가 릴리를 통해 해결됩니다. 사내 업무 시간 분석에 따르면, 릴리의 한 세션은 평균 6분의 수동적인 문서 탐색 시간을 절감하며, 이를 월 기준 50만 건의 프롬프트에 적용하면 약 5만 시간의 컨설턴트 노동 시간을 절약할 수 있습니다. 이는 풀타임 인건비 기준 약 1,200만 달러에 해당하며, 모두 더 높은 부가가치 분석 작업으로 전환되었습니다. 또한 팀별로 프로젝트 착수 속도 역시 크게 향상되었는데, 과거 이틀이 걸리던 초기 스코핑 자료 작성이 이제는 3시간 이내에 완료되며, 실시간으로 풍부한 사례가 제시되면서 제안서 수주율도 상승했습니다.
1.3 고객 및 산업을 위한 시사점
맥킨지는 릴리의 설계 청사진—즉 RAG 아키텍처, 안전장치, 그리고 변화관리 실행 플랜—을 ‘퀀텀블랙(QuantumBlack)’을 통해 고객에게 제공하는 컨설팅 솔루션으로 패키징했습니다. 2025년 2분기 기준, 맥킨지는 광산업에서 생명과학에 이르는 다양한 분야에서 400건 이상의 생성형 AI 구축 프로젝트를 수행했으며, 다수의 고객이 내부 사일로를 허무는 ‘전문가 탐색 기능’을 자사 조직에 도입했습니다. 또한 Microsoft, Google, NVIDIA, Anthropic과의 전략적 협력을 통해 확장 가능한 클라우드 인프라와 최신 모델을 확보했고, 20개 이상의 산업별 AI 제품군을 구축하여 ‘가치 실현까지의 시간(Time-to-Value)’을 단축했습니다. 초기 도입 기업들은 분석 인력 투입 시간의 두 자릿수 비율 감소와 의사결정 속도의 현저한 향상을 보고하고 있으며, 이는 보안이 강화된 도메인 기반 지식 에이전트가 전문 서비스 산업을 넘어 폭넓게 확장될 수 있음을 보여줍니다.
2. 원클릭 결과물 생성 – AI 기반 파워포인트 및 제안서 자동 작성
2025년 초부터 맥킨지 컨설턴트들은 릴리(Lilli) 내에서 짧은 프롬프트만으로 고객 제출용 슬라이드 자료나 제안서를 완성할 수 있게 되었습니다. 현재 맥킨지 전체 직원 4만3천 명 중 75% 이상이 매달 이 기능을 활용하고 있으며, 이는 릴리 전체 프롬프트 50만 건 이상을 보완하는 동시에 사용자 1인당 주평균 17회의 문서 생성으로 이어지고 있습니다. “원클릭(One-Click)” 에이전트는 승인된 템플릿, 차트, 그리고 서술 내용을 자동으로 조합하여 완성도 높은 파워포인트 문서를 생성하며, 동시에 내장된 ‘톤 오브 보이스(Tone of Voice)’ 검사 기능이 텍스트를 회사의 엄격한 스타일 가이드에 맞춰 재작성합니다. 무엇보다 이 모든 작업은 직원들이 고객의 기밀 데이터를 안전하게 다룰 수 있는 동일한 보안 환경 내에서 이루어집니다.
2.1 자동화 도입 전후의 업무 방식 비교
과거에는 주니어 애널리스트들이 초안 덱 하나를 완성하는 데 610시간을 투입해야 했습니다. 즉, 이전 사례를 찾아 그래프를 복사·붙여넣기하고 회사 표준 양식에 맞춰 서식을 조정하는 작업이 반복되었죠. 그러나 오늘날에는 컨설턴트가 단 34개의 프롬프트 질문(“상황, 목표, 근거”)에 답하기만 하면 수 분 내에 전문가 검토 준비가 완료된 초안 덱을 받을 수 있습니다. 맥킨지 글로벌 테크 및 AI 리더인 Kate Smaje는 이러한 변화가 “파워포인트를 작성하는 대규모 비즈니스 애널리스트 인력”에 대한 필요성을 제거했다고 설명하며, 이제 그 시간이 레이아웃 작업 대신 가설 검증과 고객 대화에 재투자되고 있다고 강조했습니다.
2.2 품질 관리 기능 (스타일, 출처 확인)
이 에이전트 체인은 단순히 슬라이드에 텍스트를 나열하는 것을 넘어섭니다. 모든 사실을 릴리의 검색 증강 지식 기반과 교차 검증하고, 인라인 인용을 자동으로 첨부하며, 근거가 부족한 주장에는 경고 표시를 남깁니다. 또한 톤앤보이스 모듈은 맥킨지가 선호하는 문장 구조, 격식체, 시각적 밀도 규칙에 맞춰 텍스트를 재작성하며, 템플릿 거버넌스 시스템은 최신 브랜드북에 따라 색상 팔레트와 타이포그래피를 고정함으로써 디자인 팀과의 재작업 사이클을 줄입니다. 모든 연산이 제로 트러스트 보안 공간 내에서 실행되기 때문에, 컨설턴트는 외부 노출 우려 없이 민감한 수치(예: 고객 EBITDA)를 문서에 직접 삽입할 수 있습니다.
2.3 생산성 및 인력 구성에 미치는 영향
내부 사용 데이터에 따르면, 자동 생성된 덱과 제안서가 현재 릴리 전체 사용량의 약 3분의 1을 차지하고 있습니다. 한 번의 실행으로 평균 90~120분의 문서 작성 시간이 절감되며, 현재 도입 수준 기준으로 매달 수만 시간의 컨설턴트 인력이 확보되고 있습니다. 맥킨지는 인력 감축보다는 증강(Augmentation)을 강조하고 있으며, 주니어 직원들은 이제 정형적인 서식 작업 대신 데이터 스토리텔링, 모델 검증, 그리고 실시간 고객 워크숍에 집중하고 있습니다. 경영진들은 브리프에서 제안서 서명까지 이어지는 제안 사이클이 최대 20% 단축되었다고 보고하며, 이는 경쟁이 치열한 제안 요청서(RFP)에서 수주율 향상으로 이어졌다고 평가하고 있습니다.
3. 커스텀 AI 에이전트 구축 – QuantumBlack 툴킷 & 맞춤형 GPT
2023년 중반 맥킨지가 전 조직에 QuantumBlack Horizon을 개방한 이후, 컨설턴트들은 릴리(Lilli)가 구동되는 것과 동일한 보안 환경 안에서 특정 업무에 특화된 AI 에이전트를 직접 구축할 수 있게 되었습니다. Horizon과 25개가 넘는 독자적 개발 툴은 300개 규모의 R&D 가속기 라이브러리 위에 구성되어 있으며, 50개국에 걸친 7,000명의 테크놀로지 전문가들에 의해 운영되고 있습니다. 파트너들은 개별 팀이 한 시간 이내에 실제 운영 가능한 에이전트를 배포할 수 있다고 보고하고 있습니다. 초기 도입 사례로는 여러 생명과학, 공급망, 가격 결정 관련 어시스턴트들이 포함되며, 2025년 VivaTech에서 공개된 신규 “Agents-at-Scale” 제품군은 이러한 개별 구축물을 고객 제공이 가능한 재사용형 에이전트 마켓플레이스로 확장해 주고 있습니다.
3.1 에이전트 팩토리: 아이디어에서 프로덕션까지
Horizon의 로우코드 Agent Factory는 Kedro, Brix, Alloy와 같은 구성 요소를 드래그앤드롭 방식의 파이프라인으로 통합합니다. 사용자는 목표를 정의하고, 지식 패키지를 선택한 뒤, 액션 플러그인(이메일, SAP, API 호출 등)을 추가하고, 마지막으로 가드레일을 설정하면 됩니다. 그러면 플랫폼이 자동으로 테스트 하네스, CI/CD 훅, 관측(Observability) 대시보드를 생성해 주어, 과거에는 데이터 사이언스 파일럿의 90%가 프로덕션 단계에 이르지 못하게 했던 ‘라스트 마일’ 문제를 해소합니다. 250명 이상의 전문 엔지니어가 1,300명의 데이터 사이언티스트를 지원하는 구조를 통해, 신규 에이전트는 보안 심사를 거쳐 수개월이 아닌 수일 내에 프로덕션에 반영되며, 이로써 피드백 루프가 빨라지고 프로젝트 전반에서 모델 재사용성이 높아지고 있습니다.
3.2 사례 스냅샷
- Life-Sciences Assistant: 실무 팀은 제약사 타깃에 대해 90초 만에 “한 페이지 회사 요약(company-on-a-page)”을 생성하는 에이전트를 활용하여 실사 준비 시간을 이틀가량 단축하고 있습니다.
- Bank Tech-Modernization Factory: 한 선도 금융기관은 다섯 명의 인력이 관리하는 100개의 협업 에이전트를 구축하여 애플리케이션 현대화에 필요한 노력과 비용을 50% 이상 절감했습니다.
- Supply-Chain Orchestrator: 리테일 클라이언트들은 매시간 최적 재고를 재계산하는 에이전트를 파일럿 운영 중이며, 이를 통해 매대 재고 가용성을 3~5%포인트 향상시키고 있습니다. 이와 같은 사례를 포함해, 맥킨지는 이미 400건이 넘는 생성형 AI 프로젝트를 클라이언트에게 제공했으며, 이들 중 상당수가 이러한 재사용 가능한 에이전트 설계 청사진을 기반으로 구축되고 있습니다.
3.3 에이전트 마켓플레이스의 스케일링 및 거버넌스
Agents-at-Scale 제품군은 레지스트리, 정책-코드화 계층(policy-as-code layer), 그리고 오케스트레이션 메쉬를 하나로 묶어 수천 개의 에이전트가 안전하게 협업할 수 있도록 합니다. 모든 에이전트는 학습 데이터, 버전, 소유권 정보를 담은 출처(provenance) 카드와 함께 관리되며, 편향, 프라이버시, 성능에 대한 검증을 필수적으로 통과해야 합니다. 이러한 검증 프로세스는 맥킨지가 2024년에 발표한 Credo AI와의 거버넌스 제휴 스택에 통합되어 있습니다. 각 팀은 준비된 에이전트 카탈로그에서 바로 활용할 수 있는 에이전트를 선택하거나, 동일한 컴플라이언스 체계 아래에서 기존 에이전트를 복제·변형함으로써 IP를 보호하면서도 불필요한 재개발을 피할 수 있습니다. 초기 파일럿 데이터에 따르면, 이러한 거버넌스 적용 마켓플레이스는 중복 구축을 40%까지 줄이고, 신규 조직이나 프랙티스의 온보딩 시간을 몇 시간 단위로 단축해 주는 것으로 나타났습니다.
4. 스마트 오퍼레이션 – 일정·출장·리소스 배분을 위한 AI 에이전트
2024년 1분기에 조용히 론칭된 “일상 운영(everyday ops)” 에이전트 제품군은 이제 릴리(Lilli)와 나란히 배치되어 컨설턴트 일정 관리의 반복적 업무를 크게 줄여주고 있습니다. Business Insider 보도에 따르면, 맥킨지 전사에 적용된 이 봇들은 이미 기밀 고객 데이터가 위치한 동일한 제로 트러스트 보안 환경 내에서 회의와 출장을 예약할 수 있게 되었으며, 이를 통해 Lilli 활용도는 4만5천 명에 달하는 맥킨지 임직원의 70%를 넘어섰습니다. 그 효과는 상당한데, 외부 벤치마크에 따르면 전체 직장인의 89%가 단지 회의 일정을 잡는 데만 주당 최대 4시간을 소모하고 있어, 이 시간이 절반만 줄어들어도 월 약 9만 시간의 컨설턴트 업무 시간이 확보되어, 관리 업무가 아닌 고객 분석에 재투자될 수 있습니다.
4.1 컨설턴트의 일상에 스며든 행정 봇
“Calendar Concierge” 에이전트는 초대 메일 스레드를 정리하고, 40개 이상의 시간대를 스캔해, 수 초 내에 모두에게 가능한 시간대를 제안합니다. 또 다른 에이전트는 사전에 협상된 항공 요금 코드와 선호 호텔 정보를 불러온 뒤, 출장 일정을 자동으로 예약합니다. 초기 사용 데이터에 따르면, 론칭 후 첫 6개월 동안 12만 건이 넘는 예약이 처리되었고, 어시스턴트와의 이메일 왕복은 65% 감소했으며, 예외 상황은 온콜 지원을 통해 평균 2분 이내에 해결되고 있습니다. 모든 워크플로는 Lilli의 감사 추적 및 저장 데이터 암호화 체계를 그대로 적용받기 때문에, 고객별 일정 정보가 회사 경계를 벗어나는 일은 없습니다.
4.2 인재 매칭 알고리즘 및 인력 계획
맥킨지는 이러한 AI 기반 일정 관리 연구를 바탕으로, 컨설턴트의 자격·인증, 작업량 전망, 출장 선호도를 현재 진행 중인 프로젝트 수요와 매칭하는 “Skill-Graph” 엔진을 파일럿 운영 중입니다. 두 대륙에서 운영 중인 파일럿 스쿼드는 유급 가능(Utilization) 지표가 2~3%포인트 향상되고, 스태핑(배치) 사이클이 15% 빨라졌다고 보고하고 있습니다. 알고리즘은 지난 18개월간의 프로젝트 데이터를 학습하며, 성별 균형·언어 능력 등 DEI 관련 제약 조건을 반영하는 동시에, 각 매칭 결과에 대해 파트너들이 납득할 수 있는 투명한 근거를 제공하도록 설계되었습니다.
4.3 변화 관리 및 도입 전략
맥킨지는 이른바 “프롬프트 불안(prompt anxiety)”을 줄이기 위해 15분짜리 데모, 일정 관리 성과를 보여주는 리더보드, 그리고 자발적으로 참여하는 실천 커뮤니티 등 마이크로 러닝 기반 개입을 적극 활용하고 있습니다. 또한 사용 현황 대시보드를 통해 절감된 시간, 출장 최적화로 줄어든 탄소 배출 거리 등 실시간 임팩트 지표를 공유하여 새로운 행동 양식을 강화하고 있습니다. HR은 이러한 지표를 분기별 성장 대화에 반영해, 절감된 시간이 단순한 초과 근무가 아닌 더 높은 가치의 업무에 재투자되도록 유도하고 있습니다. 그 결과 9개월 내에 사용자 1인당 주간 에이전트 활용 빈도는 3회에서 11회로 늘었으며, 내부 설문에서 만족도 점수는 5점 만점에 4.6점에 도달했습니다.
5. Responsible-AI 거버넌스 플랫폼 – 신뢰와 투명성의 내재화
맥킨지는 새로운 에이전트를 도입함과 동시에 Responsible-AI 체계를 기업 수준의 “레벨 4” 성숙도로 고도화했습니다. 이는 모든 AI 활용 사례를 단일 레지스트리로 관리하고, 자동화된 정책 점검과 모델 업데이트 단계별 워크플로 게이팅을 적용하는 엔터프라이즈급 플랫폼입니다. 이어서 맥킨지의 QuantumBlack 조직은 2024년 4월 Credo AI와 파트너십을 체결하고, 이 툴셋을 상용화해 고객들이 단순 정책 PDF 문서를 실제 실행 가능한 통제 장치로 전환할 수 있도록 했습니다. 내부 컴플라이언스 로그에 따르면, 해당 플랫폼 가동 이후 중대 사건은 단 한 건도 발생하지 않았으며, 설문 결과에서는 CEO 레벨의 AI 관여와 AI 도입 기업들의 가장 높은 재무성과(수익성 지표) 사이의 상관관계가 나타났습니다.
5.1 정책 스택 (데이터, 모델, 사용)
이 플랫폼은 세 개의 동심원 형태 정책 레이어를 적용합니다. 먼저 데이터 정책은 모든 테이블에 계보(lineage)와 보존 규칙 태그를 부여하며, 모델 정책은 빌드 단계에서 편향, 견고성(robustness), 프라이버시 테스트를 의무화합니다. 또한 사용 정책은 고객 기밀을 노출할 수 있는 프롬프트를 제한하도록 설계되어 있습니다. 각 통제 항목은 머신이 읽을 수 있는 YAML 형식으로 코드화되어, 개발 팀이 거버넌스 장치를 자동으로 상속받게 되며, 이를 통해 거버넌스는 수동 체크리스트에서 CI/CD 단계의 게이트로 전환되고, 배포 전 위반 사항의 97%를 사전에 차단하고 있습니다.
5.2 툴링: 리스크 대시보드 및 KRI 모니터링
실시간 AI 레지스트리는 모든 에이전트, 데이터셋, 의존성을 기록하고, 파트너와 리스크 담당자들이 한 화면에서 확인할 수 있는 핵심 리스크 지표(KRI)를 제공합니다. 예를 들어 드리프트, 환각(hallucination) 비율, 규제 데이터 사용 여부 등이 이에 포함됩니다. Credo AI의 위젯은 EU AI Act, NIST RMF 등 규제 프레임워크와의 매핑을 오버레이하여, 팀이 감사 자료를 수주가 아닌 수분 단위로 자동 생성할 수 있도록 지원합니다. 베타 사용자들은 컴플라이언스 준비에 투입되는 시간이 40% 감소했으며, 고객 보안 심사 과정에서 승인 속도도 빨라졌다고 보고했습니다.
5.3 책임 있는 혁신 문화를 구축하는 방식
맥킨지는 거버넌스를 “브레이크”가 아닌 “촉진자(enabler)”로 위치시키고 있습니다. 모든 신규 에이전트 오너는 2시간 분량의 “RAI-Ready” 부트캠프를 이수해야 하며, 분기별 타운홀에서는 아슬아슬하게 피한 사고 사례(near-miss)를 공유해 실패로부터 학습하는 문화를 정착시키고 있습니다. McKinsey의 2025 AI-Trust Survey에 따르면, C-레벨이 AI 거버넌스를 직접 관장하는 조직은 그렇지 않은 조직에 비해 의미 있는 EBITDA 상승을 보고할 확률이 2.6배 높습니다. 파트너들은 이 통계를 이사회 아젠다에서 AI 거버넌스를 지속적으로 논의해야 할 근거로 활용하고 있습니다. 이와 같은 여정—중대 사고 0건, 더 신속한 감사, 제고된 고객 신뢰—은 현재 다수의 포춘 500 기업이 벤치마킹하는 모범 사례가 되고 있습니다.
결론
맥킨지의 AI 프로그램은 더 이상 연구실 수준의 호기심거리도 아니고 단순한 마케팅 포장도 아니라, 글로벌 컨설팅사를 위한 운영체제(OS) 업그레이드에 가깝습니다. Lilli의 RAG 엔진은 인사이트 발굴 속도를 높이고, 원클릭 결과물 생성 기능은 제안서 제작 사이클을 획기적으로 단축하며, 에이전트 팩토리는 팀이 보유한 전문성을 수 시간 만에 구조화된 형태로 코드화할 수 있도록 합니다. 또한 스마트 오퍼레이션 봇은 매달 수만 시간에 이르는 행정 업무를 되돌려 주고, 레벨 4 수준의 거버넌스 플랫폼은 모든 모델에 신뢰를 구조적으로 내재화합니다.
이러한 레버들이 결합되면서 제한된 컨설턴트 시간이 가설 검증과 고객과의 대화에 더 많이 투입될 수 있게 되고, 동시에 리더들은 지식 흐름과 리스크를 실시간으로 파악할 수 있습니다. 자체적인 생성형 AI 로드맵을 설계하는 기업들에게 맥킨지의 경험은, 치밀한 아키텍처와 안전한 데이터 파이프라인, 그리고 사람 중심의 변화 관리가 결합될 때, 혁신 기술이 반복 가능한 비즈니스 가치로 전환된다는 점을 입증하고 있습니다.