지금의 컴퓨터는 왜 인간의 신경망을 흉내내지 못하는가
지금의 컴퓨터는 왜 인간의 신경망을 흉내내지 못하는가
- 구조·뉴런·연산 방식의 근본적 간극
앨런 튜링은 1952년에 뇌가 차가운 죽처럼 물컹하다는 사실에는 관심이 없다고 말했다. 매질이 무엇이든 계산하는 능력만이 중요하다는 뜻이었다. 그러나 그로부터 70여 년이 지난 지금, 우리는 매질의 차이가 단순한 재료의 문제가 아니라 작동 원리 전체의 문제임을 점점 더 분명히 알게 되었다. 인공지능이 바둑과 언어에서 인간을 능가하는 시대가 되었음에도, 지금의 컴퓨터는 여전히 가장 평범한 인간 뇌의 신경망조차 제대로 흉내내지 못한다. 그 이유는 성능이 부족해서가 아니라, 설계 철학이 뇌와 정면으로 어긋나 있기 때문이다.
인간의 뇌는 약 860억 개의 뉴런과 100조 개에 이르는 시냅스로 짜인 거대한 연결망이면서도, 작동에 필요한 전력은 고작 20와트 안팎이다. 이는 웬만한 가정용 백열전구 한 개가 쓰는 전기보다도 적다. 브리태니커 백과사전과 유럽연합 인간뇌프로젝트(Human Brain Project)는 뇌가 이 적은 예산으로 인공적으로 구현하면 소형 수력발전소가 필요할 연산을 매 순간 수행한다고 설명한다. 반면 거대 인공지능 모델을 한 번 학습시키는 데는 미국 가정 수백 채가 1년간 쓰는 전력이 들어가며, 이를 떠받치는 데이터센터는 기가와트 단위의 전기를 소모한다. 텍사스 A&M 대학 연구진은 이 격차를 10억 와트 대 20와트의 싸움이라고 표현했다. 같은 일을 하면서 뇌는 인공 하드웨어보다 수십만 배 이상 효율적이다.
이 엄청난 효율 격차의 첫 번째 원인은 컴퓨터의 골격 자체에 있다.오늘날 거의 모든 컴퓨터는 폰 노이만 구조 위에서 작동한다. 이 구조는 연산을 담당하는 중앙처리장치와 데이터를 담아 두는 메모리를 물리적으로 갈라 놓는다. 따라서 계산을 하려면 데이터를 메모리에서 꺼내 처리장치로 옮기고, 처리한 결과를 다시 메모리로 돌려보내는 왕복이 끊임없이 일어난다. IBM 리서치는 이 왕복이 처리장치의 속도가 느려서가 아니라, 데이터를 오가게 하는 일 자체가 시간과 에너지를 잡아먹기 때문에 발생하는 한계라고 지적한다. 이것이 바로 폰 노이만 병목이다.
뇌에는 이러한 분리가 존재하지 않는다. 뉴런과 시냅스가 곧 처리장치이면서 동시에 기억장치다. 정보를 저장하는 시냅스의 연결 강도가 그 자리에서 곧바로 계산에 쓰인다. 저장과 연산이 같은 자리에서 동시에 일어나기 때문에, 데이터를 멀리 실어 나르느라 에너지를 허비할 일이 애초에 없다. 뉴로모픽 컴퓨팅이나 인메모리 연산이라는 새로운 분야가 등장한 것도, 바로 이 분리된 구조를 뇌처럼 하나로 통합해 병목을 없애려는 시도다.
더 깊은 문제는 인공 신경망이 베껴 온 뉴런이라는 모델 자체가 지나치게 단순하다는 데 있다. 인공 뉴런은 들어온 입력에 가중치를 곱해 더한 뒤 활성화 함수 하나를 통과시키는, 사실상 단순한 덧셈기다. 그러나 2021년 신경과학 학술지 《뉴런(Neuron)》에 실린 베니아게프, 세게프, 런던의 연구는 놀라운 사실을 보여 주었다. 실제 대뇌 피질의 피라미드 뉴런 단 하나의 입출력 행동을 밀리초 단위로 흉내내려면, 5개에서 8개 층에 약 1,000개의 인공 뉴런으로 이루어진 심층 신경망이 필요했다는 것이다. 콴타 매거진(Quanta Magazine)이 정리한 대로, 우리가 뉴런 하나라고 부르는 것은 사실 작은 신경망 한 채에 맞먹는 계산기인 셈이다.
이 복잡성의 근원은 NMDA 수용체와 가지돌기의 나뭇가지 같은 구조에 있었다. 연구진이 이 두 요소를 제거하자, 뉴런은 단 한 층짜리 단순한 장치로 줄어들었다. 다시 말해 살아 있는 뉴런은 가지마다 시공간적 패턴을 따로 알아보는 비선형 연산을 수행하는데, 현재의 인공 뉴런은 이 풍부한 내부 계산을 거의 통째로 생략하고 있다. 흉내의 대상이 되는 기본 단위에서부터 이미 본질이 빠져 있는 것이다.
작동 방식의 차이도 결정적이다. 뇌는 모든 뉴런을 쉼 없이 켜 두지 않는다. 평균적인 뉴런은 1초에 1번에서 10번 정도만 발화하며, 어느 한순간에 활성 상태인 뉴런은 전체의 1~2%에 지나지 않는다. 정보는 의미 있는 사건이 있을 때만 스파이크라는 짧은 신호로 전달되고, 그 발화의 시점, 즉 타이밍 자체에 정보가 실린다. 미국 표준기술연구소(NIST)는 바로 이 에너지 스파이크의 정교한 타이밍이 뇌가 보이는 놀라운 효율의 열쇠일 수 있다고 본다.
반면 디지털 컴퓨터는 클록 신호에 맞추어 수많은 트랜지스터가 동기적으로, 그리고 끊임없이 0과 1 사이를 오간다. 일이 있든 없든 회로 전체가 박자에 맞춰 깨어 있어야 한다. 게다가 뇌의 시냅스는 연속적인 아날로그 값으로 신호의 세기를 조절하는 데 비해, 디지털 컴퓨터는 모든 것을 이산적인 비트로 쪼개 표현한다. 사건이 있을 때만 드물게 깨어나는 아날로그 방식과, 항상 빠짐없이 깨어 있는 디지털 방식의 간극은 효율의 차이로 그대로 이어진다.
정리하면, 지금의 컴퓨터가 인간의 신경망을 흉내내지 못하는 까닭은 세 겹으로 겹쳐 있다. 저장과 연산을 갈라 놓는 폰 노이만 구조, 살아 있는 뉴런의 풍부한 내부 계산을 단순한 덧셈기로 깎아낸 뉴런 모델, 그리고 항상 깨어 있는 동기적·디지털·고밀도 연산 방식이 그것이다. 이 셋은 각각 뇌의 통합된 구조, 한 채의 신경망에 맞먹는 복잡한 뉴런, 그리고 사건이 있을 때만 작동하는 비동기적·아날로그·희소 연산과 정면으로 충돌한다. 뉴로모픽 칩과 인메모리 연산은 이 간극을 메우려는 진지한 노력이지만, 적어도 현재의 폰 노이만 기반 시스템 위에서 뇌를 흉내내는 일은 성능의 문제가 아니라 원리의 문제로 막혀 있다. 뇌를 닮은 컴퓨터를 만드는 길은, 결국 컴퓨터의 골격 자체를 다시 짜는 일에서 시작될 것이다.