투이컨설팅 DSB 이봉학

우리는 공놀이를 할 때 나와 상대, 팀의 위치를 파악하고 패스할 사람을 선택합니다. 운전 중에는 앞차와의 거리, 도로의 상황, 보행자의 움직임을 토대로 지속적인 의사결정을 수행합니다. 이처럼 우리의 뇌는 동시다발적인 정보를 병렬적으로 처리하고 데이터를 종합하여 직관적이고 신속하게 결론을 도출해냅니다.

반면, 컴퓨터는 정보를 순차적으로 처리합니다. 하나의 문제를 해결하기 위해 수많은 연산을 정해진 방식에 따라 순서대로 처리합니다. 컴퓨터는 우리 뇌보다 빠르고 정확한 값을 도출하지만 직관적으로 다양한 정보를 동시에 처리하는 능력은 부족하다고 할 수 있습니다

인간의 뇌는 약 860억 개의 뉴런과 수천 조 개의 시냅스를 통해 정보를 처리합니다. 각 뉴런은 다른 뉴런들과 전기 신호를 주고받으며 복잡한 패턴을 형성하고, 이를 통해 감각을 인식하거나 학습, 기억 등을 수행합니다. 뇌는 비선형적, 병렬적으로 작동하여, 복잡한 문제를 직관적이고 빠르게 해결할 수 있습니다. 뉴로모픽 컴퓨팅은 이러한 뇌의 구조와 작동 방식을 모방하여 컴퓨터 시스템을 설계합니다. 뉴로모픽(Neuro-morphic)은 ‘뇌’를 의미하는 ‘Neuro’와 ‘형태’를 의미하는 ‘Morphic’의 합성어로, 인간의 뇌처럼 다양한 정보를 동시에 처리하고 이를 바탕으로 보다 유연하고 효율적인 계산을 가능하게 하는 기술을 뜻합니다.

<그림 1. 폰 노이만 구조와 인-메모리 구조의 차이>

[뉴로모픽, 무엇이 다를까?]

현재 사용되는 컴퓨터는 ‘폰 노이만 구조’로 계산을 담당하는 연산 장치와 데이터를 저장하는 기억 장치가 분리된 구조입니다. 중앙처리장치(CPU)를 중심으로 순차적으로 연산을 처리하고 이를 메모리에 기록합니다. 우리가 흔히 들어본 병목현상은 CPU와 메모리 간의 데이터 전송 속도 차이로 인해 발생합니다. CPU가 아무리 빠르게 연산을 처리할 수 있더라도 메모리에서 데이터를 읽고 쓰는 속도는 상대적으로 느리기 때문입니다. 인공지능과 같이 막대한 양의 데이터를 처리하는 분야에서는 이러한 병목현상이 많은 시간과 에너지를 소비하는 심각한 문제이기도 합니다.

그러나 인간의 뇌를 모방한 뉴로모픽 컴퓨터는 신경망의 작동 방식을 기반으로 이러한 병목 현상을 해결합니다. 기존 폰 노이만 구조가 연산을 위해 메모리 내의 데이터를 처리 장치로 전송해야 했다면, 뉴로모픽 컴퓨터는 메모리 내부에서 연산을 수행하고 결과 데이터만을 전송하는 ‘인-메모리 구조’를 활용합니다. 우리 두뇌가 뉴런과 시냅스를 통해 연산과 기억을 동시에 수행하는 것과 같이 연산과 저장을 동시에 수행하며, 이러한 작업들을 병렬적으로 처리하여 에너지 효율 또한 획기적으로 증가시킬 수 있는 방법입니다.

우리 뇌의 뉴런들은 전기적 신호를 발산하며 실시간으로 상호작용하고, 그 과정에서 학습하고 적응하는 능력을 발휘합니다. 뇌는 한 번에 수백억 개의 뉴런이 동시다발적으로 신호를 주고받으며 정보를 처리합니다.

스파이킹 뉴럴 네트워크(SNN)는 이러한 뉴런의 작동방식을 모방한 네트워크입니다. 기존의 인공 신경망(ANN)이 각 뉴런이 각자의 출력 값을 계산하여 다른 뉴런에게 전달하는 방식이었다면, 스파이킹 뉴런 네트워크는 각 뉴런이 스파이크[1]라는 전기적 신호를 발생시키며 서로 시간적으로 얽힌 복잡한 연산을 수행합니다. 이러한 시간적 요소와 동적인 상호작용이 뇌처럼 자연스럽고 효율적인 정보 처리를 가능하게 만듭니다.

그렇다면 스파이킹 뉴럴 네트워크에서 각 뉴런들은 어떻게 상호작용할까요? 뇌는 뉴런 간의 연결 강도를 시냅스 가중치에 따라 결정합니다. 뉴런과 뉴런을 연결하는 시냅스는 입력 받은 스파이크 신호를 적절히 변형하여 다음 뉴런에게 전달합니다. 이때 입력 스파이크를 변형하는 정도를 시냅스 가중치라고 합니다. 뇌는 우리의 경험과 학습에 따라 시냅스 가중치를 조정하는 방식으로 우리 몸을 조종하고 있습니다. 스파이킹 뉴럴 네트워크는 이러한 가중치를 시냅스 가소성(Plasticity)이라는 원리에 따라 조정합니다. 아래는 시냅스 가소성의 몇 가지 예시입니다.

STDP (Spike-Timing-Dependent Plasticity)

시냅스 가중치의 변화가 두 뉴런 간 스파이크의 시간적 관계에 의해 결정되는 방식, 선행 뉴런이 후행 뉴런보다 먼저 스파이크를 발생시키면 후행 뉴런이 더 쉽게 활성화되도록 시냅스 가중치를 증가시키며, 반대의 경우 선행 뉴런이 후행 뉴런을 유발하기 어려워지도록 시냅스 가중치를 감소시킴

Hebbian Learning

두 뉴런이 동시에 활성화되면 시냅스 가중치가 강화된다는 개념으로 선행 뉴런이 발생시킨 스파이크가 후행 뉴런을 자극하여 스파이크를 발생시킨다면 두 뉴런 간의 시냅스 가중치를 증가시킴

스파이킹 뉴럴 네트워크는 뇌의 신경망과 시냅스 작용 방식을 모방한 시간 의존적이고 효율적인 처리 방식입니다. 병렬 처리, 실시간 학습, 에너지 효율성 등 여러 장점을 가지고 있어 우리 뇌를 모방하는 뉴로모픽 컴퓨팅을 구현하는데 필수적인 기술로 자리 잡고 있습니다.

[뉴로모픽의 현재와 미래]

뉴로모픽을 활용한다면 더 낮은 비용으로 효율적인 연산이 가능해집니다. 또한 감각 처리, 패턴 인식, 의사결정 등 뇌의 복잡한 기능을 구현함으로써 자율주행 시스템이나 제스처, 음성 인식의 고도화 등 다양한 분야에서 많은 변화를 가져올 것입니다. 이러한 변화는 AI 분야에 특히 긍정적인 영향을 미칠 것으로 예상됩니다. AI에 필요한 대규모 계산을 에너지 효율적으로 처리하고 실시간 학습 능력과 병렬 처리 능력을 바탕으로 더 향상된 성능의 AI를 개발할 수 있을 것으로 기대하고 있습니다. 예를 들어, GPT-4의 경우 수백 기가바이트 이상의 메모리 공간을 필요로 하고 이를 위해선 수천만원의 GPU가 여러 대 필요합니다. 뉴로모픽 컴퓨팅이 상용화된다면 훨씬 저렴한 가격으로도 동일한 성능을 기대할 수 있습니다.

그러나 현재 단계에서는 해결해야 할 과제들이 존재합니다. 아래 내용들은 뉴로모픽 컴퓨팅의 대표적인 한계를 보여주고 있습니다.

1) 기술적 한계

뉴로모픽 컴퓨팅의 신경망 모델에 대한 신뢰성과 일관성에 대한 검증이 필요하며, 기존 알고리즘은 배치 처리 방식을 기반으로 하기에 실시간으로 데이터를 처리하고 학습하는 뉴로모픽 컴퓨팅에 최적화된 학습 알고리즘 개발이 필요

2) 소프트웨어 호환성

현재 대부분의 시스템은 기존 폰-노이만 구조를 기반으로 인프라가 구축되어 있어 뉴로모픽 컴퓨팅 구조에 적합한 인프라 구성이 필요

3) 하드웨어 성능

현재 개발된 뉴로모픽 기술들은 수천에서 수백만 개의 뉴런과 시냅스를 활용하지만 대규모 시스템으로 확장하기 위해선 수십억 개의 뉴런과 시냅스가 필요, 대규모 데이터 처리와 복잡한 연산을 위한 하드웨어 성능 향상이 선행되어야 함

아직은 많은 개선이 필요하더라도 뉴로모픽 컴퓨팅은 많은 산업 분야와 일상생활에 커다란 변화를 가져올 가능성을 가지고 있습니다. 언젠가 이러한 한계를 돌파하고 뉴로모틱의 상용화가 이루어진다면, 지금까지는 상상하지 못했던 편리하고 획기적인 기술들이 우리의 일상생활에 녹아든 미래도 기대할 수 있을 것입니다.

[1] 신경망에서 정보가 전달되는 방식 중 하나로, 뉴런이 특정 자극에 반응하여 전압을 순간적으로 변화시키며 발생하는 전기적 신호