알토대, 빛 한 번 통과해 딥러닝 텐서 연산하는 '광학 AI 컴퓨팅' 발표

초거대 AI 모델을 구동할 때 가장 큰 병목은 다차원 행렬을 다루는 텐서 연산입니다. 현재 최첨단 GPU도 이 연산을 단계별로 전자 회로를 통해 처리하지만, 빛 한 줄기를 통과시키는 것만으로 연산을 끝내는 기술이 등장했습니다.

핀란드 알토대학교(Aalto University) 전자·나노공학부의 유펑 장(Yufeng Zhang) 박사가 이끄는 국제 연구팀은 빛의 물리적 특성을 이용해 텐서 연산을 단번에 처리하는 단일 전파 텐서 컴퓨팅 기술을 구현하고, 연구 결과를 네이처 포토닉스(Nature Photonics)에 게재했습니다.

빛의 진폭과 위상에 데이터를 담아 한 번에 계산

이미지 인식부터 거대언어모델의 어텐션 메커니즘까지, 현대 딥러닝 알고리즘의 뼈대는 모두 텐서 연산으로 이뤄져 있습니다. 하지만 데이터가 폭증하면서 기존 전자식 GPU는 전력 소비와 발열, 처리 속도 측면에서 물리적 한계에 부딪히고 있습니다.

연구팀은 전자 회로 대신 디지털 데이터를 빛의 진폭과 위상에 인코딩하는 방식을 고안했습니다. 숫자를 광학 필드의 물리적 성질로 바꾼 뒤 빛들을 서로 간섭하고 결합시키면, 물리 법칙에 따라 딥러닝의 핵심인 행렬 및 텐서 곱셈이 자연스럽게 수행됩니다.

여기에 여러 파장의 빛을 동시에 활용함으로써 더 높은 차원의 텐서 연산까지 확장했습니다. 장 박사는 이를 세관 검사에 비유했습니다. 화물을 기계마다 하나씩 통과시키는 대신, 모든 화물과 기계를 광학적으로 병렬 연결해 빛이 한 번 통과하는 즉시 모든 검사와 분류를 끝내는 구조라는 설명입니다.

무엇보다 큰 장점은 계산 과정이 완전히 수동적(passive)이라는 점입니다. 빛이 전달되는 과정 자체에서 연산이 완료되므로, 계산 중간에 전기를 쓰는 스위칭이나 추가 제어가 전혀 필요하지 않습니다.

광자 칩 집적과 3~5년 내 상용 플랫폼 도입 목표

연구팀을 이끄는 즈페이 쑨(Zhipei Sun) 교수는 이 계산 방식이 거의 모든 광학 플랫폼에 적용될 수 있다고 밝혔습니다. 연구진의 다음 목표는 이 구조를 광자 칩(photonic chips)에 직접 집적해, 극도로 낮은 전력만으로 복잡한 AI 작업을 수행하는 프로세서를 구현하는 것입니다.

실제 상용화 시점에 대해 장 박사는 주요 기업들이 구축한 기존 하드웨어나 플랫폼에 이 기술이 통합되기까지 보수적으로 3년에서 5년 정도 걸릴 것으로 내다봤습니다.

왜 중요한가

데이터센터의 전력 부족이 AI 산업의 최대 화두로 떠오른 지금, 전자 대신 빛을 이용한 컴퓨팅은 근본적인 돌파구가 될 잠재력이 있습니다.

우리가 보기에 이번 연구의 가장 영리한 점은 기존 트랜지스터의 속도를 쥐어짜내는 대신, 파동의 간섭이라는 자연 법칙에 연산을 통째로 맡겼다는 점입니다. 특히 생성형 AI의 핵심인 어텐션 계층과 합성곱 연산을 빛의 단일 전파로 끝낼 수 있다면 추론 단계의 전력 소모를 비약적으로 낮출 수 있습니다.

하지만 실험실의 성공이 곧바로 엔비디아의 위기로 이어지는 것은 아닙니다. 광학 연산 자체는 빛의 속도로 이뤄지더라도, 기존 컴퓨터 시스템과의 사이에서 전기 신호와 광 신호를 주고받는 광전 변환 과정에서 발생하는 지연과 에너지 손실을 얼마나 줄이느냐가 관건입니다. 광자 칩의 대량 생산 수율과 정밀도 확보도 풀어야 할 과제입니다.

그럼에도 3~5년이라는 구체적인 상용화 로드맵이 제시된 만큼, 광학 컴퓨팅은 순수 기초 연구 단계를 벗어나 차세대 AI 가속기 시장의 실질적인 대안으로 진입하기 시작했습니다.