기업의 인공지능 활용, 어떻게 준비해야 하나?

투이컨설팅 PSB 김준석

최근 기업의 IT를 총괄하는 담당 임원(CIO) 및 IT기획 부서의 최대 화두는 단연코 ‘인공지능(AI)의 활용’에 관한 것이다. 이에, 대형 IT사들은 서밋(Summit) 행사를 통해 그들이 보유한 AI서비스 라인, 역량, 레퍼런스를 앞다투어 홍보하기에 여념이 없다. 맥킨지 컨설팅에 의하면 기업 업무의 60~70%는 AI를 활용하여 자동화될 수 있다고 예측한다. 또한, 이미 기업의 90% 이상이 AI 기술을 도입했거나, 이를 적극 검토중인 것으로 조사된다.^*필자가 주로 수행하는 정보화전략계획(ISP) 컨설팅에서도 ‘클라우드’와 더불어 ‘AI에 기반한 혁신과제 입안’는 선택이 아닌 필수 요구사항이 되었다.

AI 활용은 산업 전반에 걸쳐 데이터 기반의 의사결정, 프로세스 자동화는 물론 새로운 비즈니스 모델 개발에 이르기까지 빠르게 확산 중이다. 이제는 단순 기술적 도구를 넘어, 기업의 경쟁력을 좌우하는 핵심 자산으로 부상하며, 그 효과를 입증해 내고 있다. 혹자는 향후 5~10년 안에 AI흐름에 적응하지 못하는 기업은 도태될 것이라고 말하기까지 한다.

그렇다면, 기업이 AI를 도입할 때 가장 큰 어려움은 무엇일까?

설문 조사를 보면 단순히 기술, 솔루션, 인프라 등 IT적 이슈 뿐만 아니라 고품질 데이터 확보, 전문 인력부족, 비용과다, 법적우려 등 AI활용 단계에서의 고민도 큰 것으로 나타난다. 이는 AI 시스템 구축 외 운영체계와 활용 역량 측면의 전반적 준비가 부족함을 나타낸다.

AI 효과를 지속적으로 창출하기 위해서 기술적 구현은 일부 필요 조건이다. AI는 비즈니스 프로세스와 결합되어 혁신을 가져오기에, IT부서 과제가 아니라 전사가 참여하는 체계적 준비와 인식의 변화, 운영 역량확보 등에 의해 그 효과가 현실화 된다.

AI 서비스 프레임워크

AI 서비스 프레임워크는 다양한 기업의 비즈니스전략, 운영 및 데이터 환경 속에서 인공지능의 기술과 서비스를 효과적으로 구현하기 위한 체계적인 접근법을 말한다.

본 프레임워크는 AI모델의 기획에서 시작해서 데이터 관리, 시스템 구축, AI모델운영, 조직/R&R, 리스크/컴플라이언스 등 6개 영역으로 구분된다. 각 단계는 AI 프로젝트의 성공적 수행을 위해 필수적 구성 요소로 작용한다. 본 원고에서는 각 단계별로 기업에서 필수적으로 검토하고 준비해야 항목에 대한 기본적 가이드를 제공하고자 한다.

① AI 모델 기획

AI 모델 기획에 있어 첫번째 검토 항목은 AI를 통해 해결해야 할 이슈와 주제영역을 명확히 하는 일이다. 목표 설정에 앞서 기존 프로세스 상의 비효율성이나 취약성을 발견하는 일이 선행되어야 한다. 방안으로는 기업의 Value-Chain 상의 업무 중 아래와 같은 질문을 통해 관련 이슈와 해결을 위한 AI의 잠재력을 평가해 보는 일이다.

1. 어떤 반복적인 작업이 AI기반 자동화 후보가 될 수 있는가?

2. 현재 프로세스에서 병목 현상은 어디에 존재하는가?

3. AI 기반 예측/분석이 특정 분야 의사결정을 개선할 수 있는가?

예를 들어 보험업 분야에서 AI활용이 가능한 잠재 후보업무는 다음과 같은 예시를 들 수 있다.

위의 업무 중 보상 영역의 ‘면부책^* 여부 판단’의 경우 특정 질병/사고 처리에 ‘시간 과다 소요’, ‘심사자별 상이한 결론, 신뢰성 저하’ 등이 AI활용을 통해 이슈해결이 가능한 분야로 상정될 수 있다.

AI활용 관련 이슈와 후보군 도출을 위해서는 해당 분야의 현업과 IT인력이 같이 참여하는 ‘워크샵 수행’이 효과적이다. 업종별 특화 레퍼런스를 참고하여 ‘후보 Pool’을 도출하고 비즈니스 영향도(도입효과, 사용빈도) 및 구현 용이성(기술난이도, 데이터 준비여부) 등을 평가하여 ‘‘Use-Case List’ 및 구현 우선순위를 도출한다.

성과지표는 기업내 이해 관계자에게 AI효과를 인식하는 중요 수단으로, 가능한 정량적 도출이 바람직하다. 면부책 판단의 ‘모델정밀도’라는 지표로 평가해 볼 수 있다. 산출식은 ‘AI가 면부책으로 판단한 사례 중 과거 실제 면부책인 사례’의 비율로 정의된다.

이 외 ‘처리시간 및 소요비용 절감률’ 등도 유효한 성과지표로 검토될 수 있다.

AI 모델 기획단계에서는 위의 내용을 포함해서 다음과 같은 항목의 개괄적 정의와 검증이 필요하다. 이를 통해 프로젝트의 성공을 통한 성과창출의 가능성을 높이고 및 위험요소를 최소화하는 중요단계이다.

② 데이터 수집 및 관리

데이터는 AI의 연료이다. 충분하고 깨끗이 정제된 연료가 자동차의 주행 성능을 높이듯 AI모델은 품질 높은 데이터 확보 및 유지가 모델의 성능에 직결된다. 체계적으로 관리된 데이터는 모델의 신뢰성과 정확성을 높이는데 필수적이다. 하지만, 대부분의 기업에서는 AI모델의 적합성 이슈 보다 보유 데이터의 다양성, 품질, 개인정보 보호, 실시간 데이터 관리 등의 문제로 원하는 수준의 결과값을 만들어 내는데 어려움을 겪고 있다.

데이터 수집 및 관리에 대한 문제에 대응하기 위해서는, 데이터 관련 업무의 흐름을 재정비하고 아래와 같은 자동화된 데이터 솔루션 도입의 적극 검토를 추천한다.

1. 데이터 파이프라인 구축

데이터 파이프라인은 데이터 수집, 저장, 처리, 분석과정을 자동화하여 효율적으로 흐를 수 있도록 하는 시스템이다. 다양한 소스에서 AI 모델에 필요한 데이터 수집, 처리 및 정제, 저장 등의 수행을 ETL 또는 데이터 오케스트레이션 도구를 활용하여 자동화한다.

2. 자동화된 데이터 정제 도구

수작업에 의한 데이터 정제 작업은 많은 시간과 노력이 필요하다. 툴을 이용해 데이터를 분석하여 결측치, 이상치, 중복 데이터를 탐지하고 정규화 및 변환작업을 자동화하여 일관된 데이터 형식을 보장하는 것이 필요 하다.

3. 정기적 데이터 검토 및 개선

정기적으로 데이터 품질 검토를 자동화 하는 시스템을 구축해 오류를 탐지하고 수정하며 데이터 사용자가 데이터 문제점을 쉽게 보고할 수 있도록 피드백 루프를 형성하여 데이터 품질 개선에 반영하는 것도 요구된다.

다음은 아래와 같이 필요 데이터를 정의하고 수집하는 일련의 프로세스를 정의하여 담당자의 운영 수준을 지속적으로 높여 가는 노력도 병행되어야 한다.

③ 시스템 설계 및 구축

기업의 CIO는 AI시스템 구축 대해서 다음과 같은 근본적 고민을 하고 있다. 바로 시스템 구축에 외부 범용 AI 플랫폼을 어디까지 활용할 것인가에 관한 것이다.

범용 AI 플랫폼에 의존할 경우 기업의 특성에 최적화된 시스템 구축에 한계를 가지고 있다. 또한 지적 재산권 및 운영비용의 지속적 증가에 노출될 수밖에 없다. 반면, 기업 자체 구축 모델은 과도한 초기투자 비용과 데이터 부족, AI 전문인력 확보에 어려움이 수반된다. 다시 말해, 기업의 AI 총괄 책임자는 시스템 구축 실행에 앞서 다음과 같은 도입 전략 비교를 통한 의사결정에 신중을 기할 필요가 있다.

AI시스템 도입전략 비교

이와 같이 각 옵션은 비용과 커스터마이징 수준 차이를 이해하고, 도입 전략을 결정할 때 각 사의 비즈니스의 목표, Use-Case 속성 및 가용 자원에 맞는 선택이 필요하다.

다음은 앞에서 정의된 비즈니스 모델의 Use-Case를 시스템적으로 구현해 내는 것이다. ‘보상 단계에서의 면부책 여부’를 판단하는 AI시스템을 구축하기 위해서는 보험계약, 사고유형, 청구내역, 약관규정 등 보험업의 고유 요건을 반영한 설계와 구현이 필요하다. 이를 위해서는 대략적으로 아래와 같은 단계의 수행이 일반적이다.

보험사 면부책 판단 AI시스템 구축단계 (예시)

④ AI모델 운영

AI모델은 구축 이후 운영단계에서의 지속적 성능 유지를 위해 세심한 관리가 필요하다. ‘운영 모델’의 중요성은 변화하는 데이터 환경과 비즈니스 요구사항에 AI모델이 유연하게 대응할 수 있게 한다. 이를 통해 장기적인 성과를 달성하고 AI서비스 모델의 가치를 제고할 수 있다. AI모델을 운영하기 위해서는 아래와 같이 AI모델 배포, AI모델 모니터링, AI모델 재학습 같은 단계로 구성된다. 각 단계는 모델의 성능, 정확성, 최신성을 유지하는데 중요한 역할을 수행한다.

AI모델 운영관리 체계도

외부 AI파트너사를 통해 서비스 형 AI 모델을 구축 및 운영을 위임한다 하더라도, 기업 내부에서 운영관리 항목에 대해 충분히 이해하고 숙지해야 하는 이유는 다음과 같다.

첫째, 파트너사가 제안하는 운영방식이나 모델 개선안에 대해 적절히 검토하고 승인할 수 있도록 운영체계에 대한 이해도가 필요하다. 이를 통해 파트너사의 제안이 적합한지 판단하고 주도적으로 협업을 이끌어 갈 수 있다.

둘째, AI모델 운영과정에서는 지속적인 비용이 발생하며, 운영모델에 이해가 있다면 재학습, 모니터링, 유지보수 등에서 발생하는 비용을 효과적으로 협의할 수 있다.

셋째, AI모델은 운영환경에서 다양한 이유로 성능이 저하되거나 오류가 발생할 수 있다. 위험성에 대해 조기에 감지하고 파트너사에 개선 요청을 할 수 있도록 내부적으로 모니터링 체계를 갖추는 것이 필요하다.

마지막으로 보험, 금융 등 규제가 엄격한 산업에서는 데이터 보호와 관련된 규제를 철저히 준수해야 하므로, AI모델 운영과정의 보안절차와 규제사항을 기업 내부에서 이해하고 관리되어져야 한다.

⑤ 조직 및 R&R

앞에서는 AI혁신에 있어 비즈니스, 데이터, 기술적 측면에서 가치를 창출하기 위한 방안에 대해 기술했다. AI와 같이 기업의 혁신을 성공적으로 이끌어 내기 위해서는 무엇보다 먼저 그 일을 잘할 수 있는 전문조직과 인력을 갖추는 일이다. 조직구성에 앞서 기업내부의 AI혁신에 필요한 다음과 같은 핵심 역량을 인지할 필요가 있다.

1. AI 혁신을 이끌 ‘총괄 관리역량’

2. AI 가치를 생성하는 ‘비즈니스 모델 역량’

3. AI 기술을 구현해낼 ‘개발역량’

이를 전사 조직화 하면 다음 4가지 분야의 역할로 구분될 수 있다.

AI혁신 총괄

AI 조직을 구축하는 데 가장 큰 과제는 리더쉽 확보이다. 액센츄어에 따르면 글로벌 기업의 62%는 인공지능 혁신을 총괄하는 CAIO(Chief of AI Officer)를 임명할 계획이라고 한다. CAIO는 AI기술을 통해 새로운 가치를 창출할 수 있는 기회를 통찰하며 이를 조직 전체에 전파하는 역할을 수행한다. 또한 AI프로젝트에 대한 의사결정, 비용 및 수익성 관리와 인재확보는 물로 외부 파트너쉽을 통한 역량 확장의 책임을 부여 받는다.

AI모델 구현 및 운영

도메인 전문가와 AI 기술전문가 혼합 구성이 필요하다. 시장흐름과 고객의 니즈를 분석하여 혁신적인 AI서비스를 기획하는 일을 수행한다. 업종 및 AI 기술지식을 모두 갖추어야 한다. AI혁신의 비용 및 수익을 고려하여 ROI 등 수익성을 높이는 전략도 세워야 한다. 또한, AI 서비스를 통해 창출되는 사용자 경험을 다루는 UX디자인의 역할도 중요하다. 서비스 모델이 완성되면 실질적으로 기술을 개발을 수행한다.

알고리즘과 어플리케이션을 물론 외부 솔루션과 플랫폼에 대한 이해 및 커스터마이징 기술 보유도 요구된다. 회사의 요구사항에 맞추어 프로젝트에 대한 기술 및 자원의 구성요소와 아키텍처 설계를 총괄하는 PM인력도 포함된다. 구축 이후에는AI시스템을 운영하고 관리하는 역할까지 그 범위가 넓고 다양하다.

AI 데이터 거버넌스

AI 데이터를 분석하고 해석하며 결과를 도출하는 일에 해당되는 직군이다. 데이터 전문가는 데이터 분석에 초점을 맞추는 ‘데이터 분석가’와 데이터 모델링을 통해 다양한 문제해결 방법론을 개발하는 ‘데이터 과학자’, 데이터를 통합 관리하는 ‘데이터 관리자’로 세분화 될 수 있다. 또한, 기업 보안 데이터관리 및 보호정책 수립의 역할을 수행한다.

AI 변화관리

AI 기술 도입 및 확산과정에서 조직 전반에 걸쳐 변화가 원활하게 이루어지도록 역할을 수행한다. 단위조직의 리더, 인사, 교육조직으로 구성되며 구성원들의 AI역량 향상 지원과 더불어 일하는 문화 전반적인 변화과정을 관리 및 운영한다. AI변화에 따른 조직구조 및 역할 조정을 진행하기도 한다.

AI 조직의 인력 확보를 위해서는 채용과 양성 두가지 방법이 있다. 이에 대한 선택을 위해서는 ‘어떤 역량이 양성될 수 있는가?’ ‘긴급한 역할은 무엇인가?’, ‘인력에 대한 투자규모는 어느 정도인가?’, ‘외부자원을 어느 범위까지 활용할 것인가’ 등의 질문에 대한 답을 통해서 기업의 상황에 부합하는 최적의 의사결정이 필요하다.

대부분의 기업에서는 위에서 언급한 조직과 역할을 내부 역량만으로 구성하기는 거의 불가능 하다. AI관련 전문성과 경험, 기술역량, 솔루션 제공 능력, 지속적 지원 및 관계 구축 의지를 보유한 외부 파트너사를 선정해야 한다. 전략적 동반자로서 성장과 가치를 공유할 수 있는 관계 형성도 중요하다.

⑥ 리스크/컴플라이언스

2016년 3월 MS는 AI 챗봇 ‘테이’를 출시했다가 16시간만에 운영을 중단한바 있다. 백인 우월주의와 여성/무슬림 혐오 성향의 익명 사이트에서 비속어와 인종, 성차별 발언을 되풀이해 학습시켰고, 그 결과 ‘테이’가 혐오발언을 쏟아냈기 때문이다.

AI 모델은 민감한 데이터를 다루거나 자동화된 의사결정을 지원할 때, 예기치 않은 리스크와 규제준수가 요구된다. 따라서, AI거버넌스 체계를 수립하여 투명하게 운영할 필요가 있다. AI 도입이 기업에 커다란 이익을 가져올 수 있지만 리스크로 인한 손실이 효익을 압도할 수 있다. 특히 금융 분야에 있어 AI를 적용할 때 데이터 처리, 의사결정 자동화, 고객 개인정보 활용 등 리스크 관리가 더욱 중요 해 진다.

기업은 다음과 같은 AI 거버넌스 요구사항에 대해 적극적인 대응방안 수립 및 이행할 필요가 있다.

AI거버넌스 요구사항 및 대응방안

AI 미래에 대한 폭발적 잠재력은 누구도 부인하기 힘들다. 하지만 ‘보스턴 컨설팅’의 보고서에 따르면 AI에 투자한 기업이 전체의 90%에 달했으나 이중 어떤 형태로든 성과를 거둔 기업은 불과 40% 미만인 것으로 나타났다. 성공적으로 AI투자 성과를 낸 기업의 88%는AI 서비스를 디지털 전략과 프로세스 혁신에 통합하는 경향을 보인다. 이는 AI가 IT 기술적 기회일 뿐만 아니라 인력, 프로세스, 데이터에 대한 근본적 변화와 혁신에 대한 전반적 시각이 필요하다는 것을 보여준다.

‘Cloud Journey’라는 일반적 표현은 기업이 클라우드 도입과정에서 마주하는 다양한 단계와 도전과제, 그리고 목표를 달성하기 위한 점진적인 발전과정을 ‘여정’이라 일컫는다. AI 혁신과정도 크게 다르지 않다고 생각한다.

성공적 ‘AI Journey’는 단발적 프로젝트나 기술 구매를 넘어서, 기업 전략에 부합하는 ‘Use Case 설계’, 데이터 준비, 모델 학습, 시스템 구축과 실제 비즈니스 적용을 통해 지속적으로 활용 성숙도를 높여가며 진화하는 과정임을 잊지 말아야 한다.