기업 AI 활용 현황 분석 리포트, 'State of Enterprise AI Report'

2e_consulting -

인공지능이 기업의 핵심 운영 체계로 빠르게 편입되면서 글로벌 기업들의 AI 활용 강도가 비약적으로 높아지고 있다. OpenAI가 2025년 12월 8일 공개한 2025년 엔터프라이즈 AI 보고서에 따르면, 기업 사용자들의 ChatGPT 메시지 사용량은 지난 1년 사이 8배 증가했고, API 기반 추론 토큰 소비량은 무려 320배 확대된 것으로 나타났다. 이는 AI가 더 이상 생산성 보조 도구에 머무르지 않고 조직 전체의 의사결정·운영·개발 체계 속으로 깊숙이 들어가고 있음을 보여준다.

보고서는 실제 엔터프라이즈 고객의 사용 데이터와 100여 개 기업 소속 9,000명의 설문 결과를 기반으로, 기업이 AI를 어떻게 도입하고 있으며 어떤 성과를 경험하고 있는지 입체적으로 보여준다. 직원들의 4분의 3이 AI 사용 이후 업무 속도 또는 품질 향상을 체감했다고 답했고, 평균적으로 하루 40~60분의 시간을 절감한 것으로 나타났다. 데이터 분석이나 소프트웨어 엔지니어링처럼 기술 의존도가 높은 역할에서는 절감 시간이 60~80분까지 확대됐다.

흥미로운 변화는 AI가 직무 경계를 희미하게 하고 있다는 점이다. 비개발 직군에서 코딩·데이터 분석 메시지 사용량이 지난 6개월 동안 평균 36% 증가하면서 전문 기술을 요구하던 작업들이 보다 폭넓은 인력에게 개방되고 있다. 직무 확장은 개인 역량을 끌어올릴 뿐 아니라, 조직 내 기술 수요를 충족하는 방식에도 구조적 변화를 불러올 조짐을 보이고 있다.

산업별로는 기술, 헬스케어, 제조업이 가장 빠른 성장세를 보였으며, 금융과 전문 서비스 업종은 여전히 가장 높은 규모의 AI 사용량을 유지하고 있다. 미국 중심이던 AI 도입도 글로벌로 확산하는 모습이다. 특히 호주, 브라질, 프랑스, 네덜란드의 기업 사용자 수 증가율은 140%를 넘어서며 세계 평균을 상회했고, 일본은 미국을 제외하고  API 기업 고객이 가장 많은 국가로 나타났다.

산업별 성장세

그러나 보고서는 빠르게 커지는 격차에 대해서도 경고한다. AI를 가장 적극적으로 사용하는 상위 5% ‘프런티어’ 직원들은 일반 직원보다 여섯 배 많은 메시지를 전송하며, 데이터 분석 기능은 16배나 더 자주 활용하는 것으로 나타났다. 기업 단위에서도 프런티어 기업은 직원당 메시지 사용량이 중간값의 두 배, GPT 활용은 일곱 배에 달한다. AI의 성과가 단순한 사용 여부가 아니라 ‘얼마나 깊게 통합하느냐’에 의해 좌우된다는 점을 시사한다.

Intercom은 실시간 API를 기반으로 한 음성 고객지원 에이전트를 도입해 전화 상담 응답 지연을 절반가량 줄였고, 전체 전화 문의의 절반 이상을 완전 자동화하는 데 성공했다. Lowe’s는 온라인 쇼핑몰과 1,700개 매장에서 사용되는 AI 도우미 ‘Mylow’를 도입해 고객 전환율을 두 배 이상 끌어올렸다. 채용 플랫폼 Indeed는 GPT 기반 설명 기능을 더한 매칭 서비스를 적용해 지원 시작률을 20%, 실제 고용 성과를 13% 높였다.

금융업에서는 BBVA가 반복적인 법적 검증 업무를 AI로 자동화해 연간 9,000건 이상의 문의를 처리하며 3명의 정규 인력에 해당하는 생산성을 확보했다. 바이오테크 분야에서 Moderna는 신약 개발 핵심 문서인 TPP(표적 제품 프로파일) 작성 시간을 기존 수주일에서 수시간으로 단축하는 데 성공했다.

이러한 선도 기업들의 공통점은 조직적 준비도였다. 보고서는 AI 도입 성과를 좌우하는 핵심 요인으로 ▲사내 시스템·데이터와의 통합 ▲재사용 가능한 워크플로우 구축 ▲경영진의 강력한 스폰서 ▲지속적 평가 체계 구축 ▲변화 관리 능력을 꼽았다. OpenAI가 평균 사흘마다 새로운 기능을 출시할 만큼 기술 변화 속도가 빠른 상황에서, 기술의 한계보다 조직의 준비 부족이 도입 성과의 병목이 되고 있다는 평가다.

결론적으로 기업의 AI 도입은 초기 단계에 머물러 있지만, 생산성 개선을 넘어 비즈니스 모델 혁신과 신규 수익 창출로 확장될 조짐이 뚜렷해지고 있다고 진단한다. AI를 단순한 업무 보조 도구가 아닌 ‘조직의 핵심 엔진’으로 재구성하는 기업들이 향후 경쟁력을 좌우할 것이라는 전망이다.

글: 투이컨설팅 디지털연구소