빛의 속도로 연산하는 광학 AI 프로세서 등장: UCLA, 파장 다중화 구현

인공지능 모델이 거대해질수록 데이터센터의 전력 소모량도 감당하기 어려운 수준으로 치솟고 있습니다. 전자의 움직임에 의존하는 기존 실리콘 반도체는 연산량이 늘어날수록 발열과 전력 효율의 한계에 부딪힐 수밖에 없습니다.

이러한 병목을 풀 열쇠로 전자 대신 빛을 이용하는 광 컴퓨팅이 주목받고 있습니다. 1월 18일 IEEE 스펙트럼은 UCLA의 광학 엔지니어 아이도간 오즈칸(Aydogan Ozcan) 연구팀이 빛의 속도로 대규모 행렬 연산을 처리하는 광대역 회절형 광학 프로세서를 개발했다고 보도했습니다.

해당 연구 논문은 1월 9일 국제 학술지 '어드밴스드 포토닉스(Advanced Photonics)'에 게재되었습니다.

렌즈를 통과하는 순간 끝나는 연산

연구팀이 구현한 '회절형 광 신경망'은 기존 컴퓨터 칩과는 완전히 다른 방식으로 작동합니다.

이 시스템은 3D 프린팅으로 제작된 얇은 층 여러 개를 겹쳐 만듭니다. 각 층에는 빛을 회절시키고 산란시키는 수만 개의 미세 픽셀이 박혀 있는데, 이 픽셀 하나하나가 인공 신경망의 뉴런 역할을 담당합니다.

기존 전자 장비는 사물을 카메라로 촬영한 뒤 디지털 데이터로 변환하고 메모리에 적재해 프로그램을 돌려야 인식이 끝납니다. 반면 이 광학 신경망은 물체에서 반사된 빛을 그대로 통과시킵니다. 빛이 층들을 지나면서 굴절되다 보면 특정 사물을 가리키는 출력 픽셀 위치로 빛이 모이게 됩니다. 오즈칸 교수는 광원 자체를 켜는 빛 외에는 연산 과정에서 전력을 전혀 쓰지 않는다고 설명합니다.

파장 다중화로 2,000개 연산을 동시에

연구팀은 이전에도 단색광을 이용한 64제곱센티미터 크기의 회절망을 선보인 바 있습니다. 하지만 단일 파장 빛으로는 한 번에 단 하나의 행렬 곱셈만 수행할 수 있었습니다.

이번 성과의 핵심은 광대역과 파장 다중화(Wavelength Multiplexing) 기술을 결합했다는 점입니다. 연구팀은 각 층마다 14,400개의 회절 특징을 갖춘 3개 층을 3D 프린팅으로 제작한 뒤, 서브밀리미터 테라헤르츠 대역의 두 개 파장 채널을 동시에 안정적으로 구동하는 데 성공했습니다.

시뮬레이션 결과에 따르면 이 아키텍처는 최대 약 2,000개의 파장 채널을 동시에 수용할 수 있는 것으로 나타났습니다. 빛의 속도로 진행하는 한 줄기 광선 속에서 수천 번의 행렬 곱셈을 동시에 끝낼 수 있다는 뜻입니다.

왜 중요한가

AI의 급성장이 결국 전력 부족이라는 물리적 장벽에 부딪힌 지금, 연산 매개체를 전자가 아닌 광자로 전환하려는 시도는 필연적입니다. UCLA 연구팀은 값비싼 광학 소자를 복잡하게 집적하는 대신, 수동 회절 판을 통과하는 빛의 물리 현상 자체를 신경망으로 바꾸는 영리한 방식을 택했습니다.

이 방식은 특히 자율주행 차량의 실시간 사물 감지나 의료 영상, 원격 탐사 분야에서 큰 잠재력을 갖습니다. 카메라 센서 앞에 렌즈처럼 덧대기만 해도 빛이 들어오는 즉시 보행자나 표지판을 걸러낼 수 있어, 무거운 온보드 GPU의 연산 부담을 덜어줄 수 있기 때문입니다.

다만 당장 상용 GPU를 대체하기는 어렵습니다. 3D 프린터로 찍어낸 물리적 회절 층은 가중치가 고정되어 있어 소프트웨어처럼 모델을 자유롭게 업데이트하기 어렵습니다. 또한 실험실 수준의 테라헤르츠 2채널을 넘어 가시광선 영역에서 2,000개 채널을 정밀하게 제어하려면 초정밀 미세공정 과제도 해결해야 합니다. 그럼에도 연산 전력을 거의 쓰지 않고 빛의 속도로 병렬 처리를 해냈다는 점은 차세대 AI 하드웨어의 가능성을 충분히 보여줍니다.