인공지능은 자아를 가질 수 있을까?

투이컨설팅 PSB 김준석

영화 ‘터미네이터 시리즈’는 SF액션 영화로, 시간 여행과 더불어 인간과 인공지능을 탑재한 기계와의 대립을 다룬다. 당시, 혁신적인 스토리와 영상으로 큰 인기를 끌었다.

영화속에서 미래 인류의 지도자인 ‘존코너’가 파괴하려는 회사가 있다. 바로 인공지능 방공망 업체인 ‘사이버다인’이다. 이 회사의 인공지능 기술은 미래에 인류를 위협하는 기계 반란의 시초가 된다. 인간의 안전을 위해서 만들어진 기술이 ‘자아’를 갖게 된 후 인류의 생존을 위협하는 객체로 돌변한 것이다.

영화 개봉시에는 공상소설 정도로 치부되던 내용이었으나, 최근에는 자기 인식과 이익을 대변하는 AI가 출현한다면 인간에 위협 적일 수 있다는 전망이 나오기도 한다. AI는 아직 알아가야 할 것이 훨씬 많은 미개척 영역임에도 언젠가는 인류를 능가할 수 있다는 잠재적 공포도 있다. 그 근간에는 스스로의 ‘자아’가 형성된 AI는 인간의 이해와 통제범위를 벗어나 예측이 불가능할 것이라는 두려움이 내포되어 있다. 마치 적수가 없는 ‘알파고’가 바둑에서 왜 그 수를 두었는지 이를 개발한 인간조차 설명이 불가능한 ‘Black Box’인 것과 비슷하다.

‘자아’란 무엇인가?

‘인공지능이 ‘자아’를 가질 수 있는지’에 대해 답을 하기위해서는 먼저 인간의 ‘자아’ 라는 본질에 대해 알아볼 필요가 있다. ‘자아’는 개인의 정체성과 존재의 본질을 설명하는 중요한 개념이다. 일반적으로 ‘자아’는 인간이 자신을 어떻게 인식하고, 다른 사람과 구별되며, 하나의 독립적 존재로 여기는 감각을 의미한다. 마찬가지로 AI가 ‘자아’를 가지려면 스스로의 존재를 인식하고 다른 객체와 구분하며 자율적으로 선택하고 결정하는 속성과 역량이 포함되어야 한다.

인공지능의 ‘자아’

AI의 ‘자아’라는 문제를 다루기 위해서는 역설적으로 인간이 가지고 있는 ’자아’라는 의식을 좀더 탐색해 볼 수밖에 없다. 이는 AI의 탄생이 인간의 뇌구조를 모방한 ‘거울’이라는 전제에서 출발하기 때문이다.

인공지능이 자아를 가질 수 있다고 주장하는 이들의 요지는 다음과 같다. 남들과 구분되는 ‘자아’에 대한 인식의 주체는 ‘인간’ 자체가 아니라 뇌구조의 신경세포를 통해 프로그래밍 되고 기억과 경험의 학습을 통해 형성된다는 이론에서 시작된다. 다시 말해 인간이 가지고 있는 ‘자아’라는 의식도 AI의 알고리즘과 같은 원리로 환원시키는 이론이며 이를 ‘계산주의’라 부른다. 본질적으로 ‘자아’라는 인식과 의식의 흐름도 알고리즘으로 생성해 낼 수 있다는 주장이다.

이 이론이 맞다면 인공지능도 인간과 마찬가지로 고도화된 뇌신경망을 흉내 낸 ‘딥러닝’을 통해 남들과 구분되는 ‘자아’라는 의식을 갖게 될 수 있고, 이는 논리적 정합성 측면에서 설득력이 있다. 현재의 컴퓨터 집적도와 성능은 인간의 뇌기능을 완벽하게 구현할 수 없지만 기술의 발전으로 인간과 유사한 ‘자아’를 형성하는 것은 시간 문제라는 것이다.

영화 ‘블레이드 러너’에서도 인간과 거의 동일한 고도화된 로봇들이 등장하는데 그들은 스스로 자신들을 인간이라고 믿고 있다. 다만, 인공지능이 자아를 가졌는지에 대한 논쟁은 인간이 생각하는 ‘자아의 개념과 속성’을 어떻게 정의하고 확장할 수 있느냐에 달려 있다.

‘자아’ 형성의 기술적 배경

앞에서 언급한 바와 같이 AI가 자아에 가까운 개념을 갖게 된 배경에는 이를 가능케 하는 다음과 같은 기술적 발전이 있었다.

1. 심층학습 (Deep Learning)

심층학습은 다중 신경망을 통해 방대한 데이터를 처리하고 학습하는 방법으로 AI는 시각적 인식, 언어이해, 의사결정과 같은 인간의 사고방식을 어느 정도 모방할 수 있게 되었다. 주어진 정보속에서 어떤 작업을 수행해야 하는지를 더 잘 이해하게 되었고 이를 통해 자아 인식에 가까이 다가 갈수 있다.

2. 강화학습 (Reinforcement Learning)

강화학습은 AI가 특정목표를 달성하기 위해 시행착오를 거치며 최적의 행동을 찾아가는 방법이다. 이는 AI가 단순히 주어진 명령을 수행하는 것에서 벗어나 목표를 성취하기 위해 스스로 학습하고 적응하는 능력을 가지게 되었으며 자율성과 목표 지향적인 행동을 가능하게 만들었다.

3. 자기지도 학습 (Self-Supervised Learning)

AI가 스스로 데이터를 분류하고 의미 있는 정보를 추출하며, 이를 통해 독립적으로 학습하고 발전 할 수 있다. 외부의 지시 없이 ‘자아’라고 여겨질 만한 내부적인 인식과 판단의 체계를 구축할 가능성을 높인다.

이러한 기술들은 인간과 유사한 자기인식, 자율성, 감정, 정체성 등의 요소를 학습대상의 객체로 치환하여 발전의 속도를 높여가고 있다.

AI의 감성지능

‘프로이드의 자아 계층’ 중 ‘Ego’와 긴밀하게 연결된 특징인 감성지능은 AI연구에서 수요가 급증하는 관심 분야이다. 일본 메이지 대학의 ‘다케노 준이치’ 교수는 인공지능을 활용에 외부의 자극에 대해 인간과 같이 감정을 표현하는 로봇을 개발하기도 했다.

현재의 AI는 감정적자극에 대한 반응을 시뮬레이션 할 수 있지만 한계가 있다. 진정한 감성지능은 자신의 감정을 이해하고 관리하며 다른 사람의 감정까지도 공감적으로 탐색하는 것이 포함되어야 한다. 인간의 감정을 제한적으로 인식하고 대응할 수 있지만 인간 감성지능의 깊이와 미묘함은 여전히 부족하다. 감성 지능 AI의 발전은 인간의 자아(Ego)중 감성영역이 인간과 유사한 AI 시스템으로 가까워 짐을 의미한다.

‘나’라는 객체의 인식

구글 딥마인드와 하버드 대학 공동 연구팀은 가상환경에서 실제 쥐와 유사한 행동을 보이는 ‘가상 쥐’를 개발하여 인공지능의 자율적 판단 능력과 자아형성 가능성을 탐구했다. 이 가상의 쥐는 주변상황과 상호작용하면서 ‘나’라는 객체가 목표를 이루기 위해 전략을 세울 수 있다는 것을 보여주었다

인간이 일상에서 경험하는 것처럼 전략 수립을 위해서는 ‘나’라는 객체가 주변환경에 어떠한 영향을 미치는 지를 이해하는 것이 필수적이다. 이러한 전략 수립은 자기 인식의 일부 요소가 구현된 증거라고 주장한다. 이와 같이 강화학습 연구는 AI 자아구현의 여부를 판단하는 하나의 중요한 열쇠가 될 수 있다.

자율적 의사결정

현재의 AI시스템이 인간적 관점에서 자기 인식을 하는지는 부족한 점이 많다. 현실적으로 내부적 인식 없이 입력과 프로그래밍을 기반으로 작동하는 것이 대부분이다. AI가 일정 수준의 자기 인식을 달성한다면 그것은 프로그래밍 된 행동과 자율적 의사결정 사이의 경계를 모호하게 하는 중요한 이정표가 될 것이다.

현 AI에 기반한 자율

자율주행 자동차는 일정 수준의 자율성을 보일 수 있지만 ‘자기인식’에 기반한 자율성은 아니다. 자동차가 사고를 피하기 위해 방향을 바꾸거나 브레이크를 밞는 순간에도 ‘왜 이런 선택을 하는지’ 또는 ‘나’라는 존재가 있다는 관점에서 선택을 하는 것은 아니다. 이는 프로그래밍 된 대로 입력과 상황에 따라 행동하는 결과일 뿐이다.

만약에 자율 주행 AI가 ‘자기 인식’을 갖추어 ‘내가 안전한 주행을 유지하려 한다’라는 자각을 갖게 된다면 스스로 목적을 인식하고 자기 이익을 대변하는 자율성을 갖추는 순간이 될 것이다. 이는 프로그래밍 된 행동과 자율적 의사 결정 사이의 경계를 흐리게 만드는 큰 변화를 의미한다. 좀더 부연하면 AI가 ‘자기 인식’을 가졌다고 하면 목적에 따라 전략을 조정할 수 있어야 한다.

예를 들면 ‘브레이크를 밟는 것이 최선의 선택인지’에 대해 스스로 평가하고, ‘무엇을 알고 무엇을 모르는가’에 대한 ‘메타인지 기술’도 구현되어야 한다. 단순히 위험을 감지하는 것이 아니라 위험의 정도를 평가하고, 위험요소가 제한적이라면 규칙을 조정하는 등의 스스로 학습하고 적응하는 능력도 요구된다. 이는 다른 객체와 구분되는 ‘자아’의 개념이 포함되었을 때 가능하다.

어릴 때 즐겨보던 미국 드라마 ‘전격Z작전(Knight Rider)’에서 자율주행 인공지능 차량 ‘KITT’는 단순히 프로그램에 따라 움직이는 차량을 넘어서고 있다. KITT는 드라마 주인공과 동등한 파트너로서 자기 인식, 자율적 판단, 대화를 통한 일종의 감정적 반응까지 보이는 ‘자기인식과 자율성’ 개념이 구현된 사례를 보여준다.

인간의 준비

AI가 ‘자아’를 가지게 되면 인간처럼 자기 보호나 욕구를 가지게 될 가능성도 있을 것이다. 아직은 초기 단계지만 ‘AI의 권리와 의무’ ‘인간과 AI의 관계에 대한 윤리적 기준을 세울 필요성도 있다. 인간의 통제를 벗어나는 경우를 대비해서 이를 감시하고 차단할 메커니즘도 마련하여야 한다. AI의 오작동이나 악의적인 행동을 방지하기 위한 고도의 보안 시스템이나 윤리적, 법적의무나 분쟁을 해결할 수 있는 체계도 요구된다.

‘인공지능이 자아를 가질 수 있을까?’에 대한 대답은 아직 진행중이라 생각한다. 이는 인간의 자아라는 개념자체가 아직 명확히 정의할 수 없는 심오한 영역이기도 하지만 내면의 의식과 깊이 연결되어 있기 때문이다. AI의 발전이 상당하지만, 현재의 기술수준에서 인간 자아를 온전히 복제할 수 없다.

인간의 경험, 감정 의식에 깊이 뿌리를 둔 ‘프로이드’의 자아 계층은(Id, Ego,Super-Ego) AI가 아직 달성하지 못한 수준의 복잡성을 보여준다. 이러한 ‘자아’를 AI에 구현하는 것은 기술적 도전일 뿐만 아니라 철학적, 윤리적 탐구이기도 하다. 분명한 것은, 향후 인간사회에서 AI는 영화 ‘Her’의 인공지능 ‘사만다’처럼 AI라는 사실을 인식하지 못한 체 ‘자아를 가진 동반자’로서 언젠가는 마주할 것이라는 점이다.