HBM에서 시스템으로… 병목의 축이 ‘칩’에서 ‘랙·포드’로
SK하이닉스가 생성형 AI 시대의 새로운 병목으로 떠오른 ‘대역폭 장벽(Bandwidth Wall)’ 해법을 제시하며, AI 인프라의 진화 방향을 선도하는 연구 성과를 내놨다.
생성형 AI의 고도화로 수천 개 GPU와 HBM이 엮인 초대형 클러스터가 보편화되면서, 이제는 시스템 간 데이터 이동을 제한하는 대역폭 한계가 성능 향상의 주요 걸림돌로 지목되고 있다.
하드웨어 연산 성능이 2년마다 약 3배씩 급증하는 반면 인터커넥트 대역폭은 1.4배 증가에 그치는 ‘불균형’이 심화되면서 데이터센터 내 랙(Rack)과 포드(Pod) 단위의 데이터 이동 효율이 전체 AI 시스템 성능을 좌우하는 핵심 변수가 됐다.
SK하이닉스는 버지니아대(UVA) 이규상 교수와 공동 교신저자로 참여해, AI 및 고성능컴퓨팅(HPC)을 위한 차세대 광 인터커넥트 기술인 CPO(Co-Packaged Optics)의 발전 방향을 담은 논문을 세계적인 학술지 네이처 일렉트로닉스(Nature Electronics)에 게재했다고 20일 밝혔다.
SK하이닉스 뉴스룸에 따르면 이번 연구에는 일리노이대 어바나-샴페인(UIUC), 난양공과대(NTU), MIT, 연세대 연구진이 공동 참여했다.
논문 제목은 <Co-packaged optics for high-performance computing and artificial intelligence(고성능 컴퓨팅 및 인공지능을 위한 CPO 기술)>이며, 단순 기술 소개를 넘어 메모리·패키징·광 인터커넥트가 어떻게 융합·진화해야 하는지를 체계화한 종합 기술 로드맵을 담았다는 평가다.
CPO는 광 송수신기(TRx)를 프로세서와 같은 패키지 내에 집적해, 칩 간 긴 전기 배선 대신 빛으로 데이터를 주고받는 기술이다.
짧은 거리에서는 구리 배선이 경제적이지만, 속도와 거리가 늘어날수록 신호 감쇠와 전력 소모가 급증하는 전기 연결의 물리적 한계를 광(光) 기반으로 우회하는 구조다.
홍승훈 SK하이닉스 AI 인프라 팀장은 CPO를 “칩과 칩이 긴 전기 배선 대신 빛으로 데이터를 주고받을 수 있도록, 광 송수신기를 프로세서와 한 패키지 안에 넣는 기술”이라고 설명했다.
이규상 UVA 교수도 “연산칩 성능이 향상돼도 칩 사이 데이터 이동 능력이 이를 따라가지 못하면 시스템 전체 성능은 올라가지 않는다”며 “구리 배선 대신 빛으로 데이터를 옮기는 것이 가장 유력한 확장 경로”라고 배경을 밝혔다.
기술 목표와 진화 경로… 100 Tb/s·1 pJ/bit·10 ns 미만 지연
연구진은 차세대 AI 인프라 구현을 위한 구체적 기술 목표로 노드당 100 Tb/s 이상 대역폭, 1 pJ/bit 미만 에너지 소비, 10 ns 미만 칩 간 지연시간 등을 제시했다.
기술 경로는 2D 패키징에서 2.5D 인터포저, 3D 이종 집적으로 진화하는 패키징 흐름과 맞물려, 광 엔진을 프로세서에 점점 더 가까이 집적하는 방향으로 설계됐다.
이는 곧 데이터센터 인프라의 기본 단위인 랙과, 이를 묶는 포드 단위까지 통신 범위를 확장하면서도 고대역폭 밀도·저전력·신호 무결성을 동시에 확보하겠다는 전략이다.
장기적으로는 광 연결을 메모리 인터페이스까지 확장하는 구상이 핵심이다.
광 인터포저를 통해 연산 자원(XPU Pool)과 메모리 자원(Memory Pool)을 광신호로 직접 연결하는 옵틱스 중심(Optics-Centric) 아키텍처가 도입되면, 여러 가속기가 거대한 메모리 풀을 공유할 수 있어 시스템 수준의 데이터 이동을 유연하게 설계하고 초거대 AI 모델 확장에도 기민하게 대응할 수 있게 된다.
이규상 교수는 “광 인터커넥트는 AI 인프라를 구성하는 핵심 연결 기술로 자리 잡을 가능성이 높다”며 “관련 기술은 이미 실험실을 벗어나 산업화 초입에 들어섰다”고 진단했다.
이어 “저전력 광소자 집적부터 일관성 프로토콜, 신뢰성 기술까지 풀어야 할 과제가 많지만, 결국 핵심은 메모리 소자와 컨트롤러, 광소자, 패키지를 하나의 시스템으로 ‘공동 설계(Co-design)’하는 것”이라며 “바로 이 지점에서 SK하이닉스와의 협력이 큰 의미가 있다”고 강조했다.
산업적 의미… HBM 리더십을 ‘시스템 인프라 리더십’으로 확장
이번 논문은 SK하이닉스가 HBM이라는 단일 제품 혁신을 넘어, AI 데이터센터 전체를 아우르는 차세대 인프라의 청사진을 선제적으로 제시했다는 점에서 산업적 파장이 크다.
메모리 기업이 패키징·광 인터커넥트·시스템 아키텍처까지 아우르는 기술 로드맵을 주도함으로써 향후 AI 클러스터 설계에서 메모리·광연결·패키징의 공동 설계(Co-design) 표준을 선점할 수 있는 포지셔닝을 강화했다는 해석이 나온다.
홍승훈 팀장은 “학계의 전문성과 산업계의 현장 경험이 연결되어 AI 인프라의 미래 방향을 함께 제시했다는 점에서 큰 의미가 있다”며 “앞으로도 고객과 산업 생태계에 실질적인 가치를 제공할 수 있는 개방형 협력을 지속 확대해 나갈 것”이라고 밝혔다.
CPO는 AI 데이터센터의 전력·대역폭 병목 해법을 찾는 글로벌 반도체·네트워크 업계의 핵심 아젠다로 부상했다.
최근 20개 기업 컨소시엄이 오픈컴퓨트프로젝트(OCP) 내 CPO 표준 작업에 착수해 4분기 데드라인을 설정하는 등 표준화 경쟁도 본격화되고 있으며, TSMC·인텔·삼성·글로벌파운드리 등 파운드리 진영도 각자 CPO 로드맵을 공개하며 기술 선점을 노리고 있다.
이런 환경에서 SK하이닉스가 학술지 네이처 일렉트로닉스에 CPO 로드맵을 담은 논문을 게재한 것은 HBM 공급자 역할을 넘어 AI 인프라 아키텍처 설계의 핵심 플레이어로 위상을 확장하려는 시도로 읽힌다.
