KT, 엔비디아 독점 GPU 시장 ‘클라우드’로 뚫는다

쓴 만큼만 돈 내는 ‘종량제’ 방식…전 세계 첫 적용

2023년 AI 반도체 칩 제작…2024년 글로벌 진출

KT 직원들이 클라우드 데이터 센터에서 시스템을 점검하고 있다.ⓒKT

엔비디아가 독점하고 있는 그래픽처리장치(GPU) 시장에 KT가 출사표를 던졌다. 사용한 만큼만 돈을 내는 클라우드 서비스 형태로 GPU를 제공하는 것이 차별점이다. 국내는 물론 전 세계 첫 시도다.

‘합리적인 비용과 간편한 이용 구조’를 앞세워 국내에서 먼저 선을 보인 뒤 2024년 글로벌 시장에 진출할 계획이다. 엔비디아의 독점을 깨고 의미 있는 점유율을 만들어내는 것이 회사의 목표다.

내부구축 방식의 ‘반값’…70%까지 낮춘다

KT는 27일 온라인 기자스터디를 열고 지난 10일 출시한 ‘하이퍼스케일 인공지능(AI) 컴퓨팅(HAC)’ 서비스를 소개했다.

HAC는 비싼 GPU를 동적할당 방식으로 제공해 사용한 만큼만 돈을 낼 수 있도록 만든 종량제 서비스다. AI 서비스 전문 기업이나 개발자들이 주요 타깃이다. GPU 자원이 필요할 때 원하는 용량만 할당받아 사용한 뒤 반납하면 된다.

KT는 HAC가 엔비디아의 GPU 독과점 이슈나 기업들의 AI 서비스 개발 어려움을 개선할 수 있을 것으로 기대하고 있다.

김주성 KT 클라우드·IDC사업추진실 상무는 “기존 GPU는 엔비디아의 온프레미스(내부구축형) 방식을 가장 많이 사용하는데 서버 투자비용이 너무 비싸다”며 “구축과 공급에 6개월 이상이 소요되고 자체 전산실에서 고전력을 수용하기 어렵다는 단점도 있다”고 말했다.

KT가 자체 분석한 결과 HAC는 기존 타사의 온프레미스 GPU 대비 반값 수준으로 저렴하다. 회사는 이를 70%까지 낮출 수 있도록 금액을 설계할 계획이다.

KT ‘하이퍼스케일 인공지능(AI) 컴퓨팅(HAC)’ 서비스.ⓒKT

‘확장성·호환성’ 강점…대기업·데이터센터 공략

HAC의 또 다른 차별화 포인트는 ‘확장성’이다. AI 모델의 규모가 커져 대규모 GPU 자원이 필요해질 때에도 원활하게 확장할 수 있다.

지금까지는 클라우드로 가상화(VM)된 AI모델 개발환경에서 할당받을 수 있는 GPU 자원이 물리 서버(노드·Node)에 실제 장착된 GPU의 개수로 한정될 수밖에 없었다. 예를 들어 하나의 물리 서버에 10개의 GPU가 장착돼 있으면 이용자의 AI 모델 개발환경에서 할당받는 GPU도 최대 10개가 된다.

KT의 HAC에서는 GPU 팜(Farm·컴퓨터 서버와 운영시설을 모여놓은 곳)을 100여장까지 확장해서 사용할 수 있다. 회사는 내년까지 이론상 도달 가능한 수천장의 카드 이상으로 초대규모 GPU 팜을 확장할 계획이다.

HAC는 이를 위해 물리 서버에서 구동할 수 있는 최대 수량 한계를 넘어서는 GPU를 연산에 활용할 수 있게 했다. 대규모 GPU 클러스터링을 할당해 사용할 수 있어 AI 모델이 대형화되더라도 수정하지 않고 대응할 수 있다.

높은 호환성도 장점이다. 기존 AI 개발환경을 바꾸지 않아도 유연하게 적용할 수 있다. 기존에 1개의 GPU를 사용하는 개발환경을 2개 이상의 ‘멀티 GPU’ 환경으로 바꾸려면 개발환경을 다시 설계해야 했다. 반면 HAC는 모델 프로그래밍 호환성을 갖춰 기존 소스코드를 별도로 수정할 필요가 없다.

클라우드 특성상 연속 서비스도 가능하다. 기존 서비스는 할당된 리소스를 변경하려면 자원을 회수한 후 재생성 과정을 반드시 거쳐야만 하는데 여기에 1개월 이상 걸리기도 한다. 이 동안엔 서비스 중단도 불가피해지는데 HAC를 이용하면 그럴 염려가 없다.

KT는 이번 HAC 출시를 기반으로 2023년에는 전용 AI 반도체 칩을 제작해 GPU 기술 국산화를 추진한다. 2024년에는 해외 클라우드 시장 공략도 본격화할 계획이다.

김 상무는 “엔비디아가 약 90%를 독점하고 있는 시장에서 일정 수준의 점유율을 가져가는 것이 목표”라며 “글로벌 대기업이나 데이터센터를 적극적으로 공략하겠다”고 포부를 밝혔다.