SK텔레콤은 서울 코엑스에서 열린 ‘NVIDIA AI Day Seoul’에서 엔비디아, 리벨리온과 한국형 소버린 AI 인프라 구축을 위한 GPU·NPU 통합 시스템 개발 업무협약을 맺었다고 밝혔다.
이번 협력에 따라 3사는 엔비디아의 NVLink Fusion 기술을 활용해 리벨리온의 차세대 NPU ‘Rebel R200’을 엔비디아 플랫폼에 연동한다. 또한 엔비디아의 서버 랙 설계 표준인 MGX를 적용해 GPU와 NPU를 하나의 서버 랙 단위로 구성하는 통합 시스템을 개발할 예정이다.
최근 AI 산업의 경쟁 중심은 모델 자체를 만드는 단계에서 실제 서비스를 안정적으로 운영하는 영역으로 확대되고 있다. 특히 에이전틱 AI의 확산으로 추론 수요가 빠르게 증가하면서 데이터센터의 연산 성능뿐 아니라 전력 사용량과 운영 비용을 낮추는 기술도 중요한 요소로 떠오르고 있다.
AI 추론은 사용자의 질문을 분석하는 프리필(Prefill)과 답변을 순차적으로 생성하는 디코드(Decode) 과정으로 구분된다. 프리필은 대규모 연산이 필요하기 때문에 GPU가 적합한 반면, 디코드는 메모리에 저장된 데이터를 신속하게 불러오는 능력이 핵심이어서 NPU와 같은 전용 반도체의 활용도가 높다.
3사는 이러한 특성을 반영해 프리필과 디코드 작업을 서로 다른 칩에 배분하는 ‘분리형 추론’ 구조를 통합 시스템에 적용한다. 엔비디아 GPU가 질문 분석을 담당하고 리벨리온 NPU가 답변 생성 과정을 맡도록 해 전체 처리 속도와 전력 효율을 함께 높이는 것이 목표다.
SK텔레콤은 AI 데이터센터를 구축하고 운영해 온 경험을 바탕으로 해당 시스템을 실제 AI 데이터센터에 도입해 성능과 안정성을 검증한다. 이후 상용 서비스 적용 가능성을 살피고, 독자 AI 모델과 ‘모두의 AI’ 등 대국민 서비스를 연결해 인프라부터 모델과 서비스까지 아우르는 풀스택 소버린 AI 구현에 나설 계획이다.
3사는 과학기술정보통신부가 추진하는 소버린 AI 및 국산 AI 반도체 육성 정책에 발맞춰 국내형 소버린 AI 인프라 구축 사례를 확보한다는 방침이다. 이를 기반으로 공공기관과 민간 기업이 폭넓게 활용할 수 있는 국내 소버린 AI 서비스 생태계 조성에도 힘을 모을 예정이다.
SK텔레콤은 엔비디아 GPU와 리벨리온 NPU의 장점을 결합하면 추론 성능과 에너지 효율을 동시에 개선할 수 있다며, AI 데이터센터 운영 역량과 자체 AI 모델, 대국민 서비스 경험을 바탕으로 국내 소버린 AI 경쟁력을 강화하겠다고 설명했다.
엔비디아는 한국이 뛰어난 반도체 기술력과 인재를 기반으로 소버린 AI 분야에서 성장할 가능성이 크다고 평가했다. NVLink Fusion을 통해 국내 ASIC을 엔비디아의 AI 팩토리 플랫폼과 연결하고, 고성능 AI 인프라 구축을 지원하겠다는 계획이다.
리벨리온 역시 이번 협력이 국내 AI 반도체와 모델을 글로벌 기술과 결합하는 계기가 될 것이라며, SK텔레콤 및 엔비디아와 함께 차세대 AI 인프라를 설계해 한국 기술의 국제 경쟁력을 높이겠다고 밝혔다.
댓글
0