이 기사는 2025년 05월 12일 14시28분 thebell에 표출된 기사입니다

지난달 글로벌 인공지능(AI) 산업계를 뜨겁게 달군 소식이 전해졌다. 국내 스타트업 망고부스트가 AI 추론 성능 테스트 'ML퍼프 인퍼런스(MLPerf Inference)에서 엔비디아를 제치면서다. 해당 소식은 주요 외신에 앞다퉈 전해지며 화제가 됐다.

지난 2022년 설립된 스타트업 망고부스트는 '데이터처리가속기(DPU)'를 개발하고 있다. DPU는 데이터센터 전력 효율 문제를 해소하고 데이터 처리 속도를 높여주는 시스템반도체다. 데이터센터의 총소요비용(TCO)도 획기적으로 낮춰준다.

김장우 망고부스트 대표(사진)는 지난달 24일(현지시간) 미국 캘리포니아 산호세 위워크에서 진행한 더벨과의 인터뷰에서 "한국에서 DPU를 하는 회사는 망고부스트뿐"이라며 "시스템반도체로 글로벌 시장에서 '금메달'을 딸 것"이라고 했다.

◇'국가대표' DPU 석학이 창업, 빅테크와 경쟁

망고부스트는 지난달 23일(현지시간) 미국 캘리포니아 서니베일 '플러그 앤 플레이 테크센터(Plug & Play Tech Center)'에서 열린 '산업은행 넥스트라운드' 행사에서 기업설명회(IR)를 진행하면서 주목받았다. 해당 행사는 300여명 업계 관계자가 참석했다.



망고부스트는 컴퓨터 시스템·서버 아키텍쳐 분야의 세계적 석학이자 서울대 전기정보공학부 교수인 김 대표가 창업했다. 김 대표는 미국 코넬대 전기공학 학사와 컴퓨터공학 석사, 미국 카네기멜론대 전기컴퓨터공학 박사학위를 받았다.

김 대표는 "2014년부터 컴퓨터의 데이터 처리 속도를 높일 수 있는 연구를 해왔다"면서 "그러던 중 2018년 아마존웹서비스(AWS)가 자체 개발한 DPU를 활용하고 있다는 소식을 접했는데, 이미 우리가 연구해온 것이었다"라고 회상했다.

김 대표는 이미 DPU 관련 선행기술을 확보하고 있었기 때문에 직접 창업을 결심하게 된다. 2014년부터 △ISCA △MICRO △ASPLOS △HPCA △OSDI 등 컴퓨터 구조·시스템 분야 최우수 학술대회에 수십편의 논문을 발표해왔다.

김 대표는 "서울대, 포항공대, 카네기멜론대 등에서 함께 연구하던 시스템 반도체 분야 유수 인재들과 함께 창업했다"면서 "대한민국 최고 인재들이 10여년간 연구한 기술을 바탕으로 창업했기 때문에 경쟁우위에 있다고 생각한다"고 했다.

DPU는 개발 난도가 높아 실제로 경쟁력 있는 제품을 만들 수 있는 회사가 전세계 다섯 손가락에 손꼽힌다. 그마저도 엔비디아, AMD, 마이크로소프트 등 글로벌 빅테크가 중심이 된다. 이들 또한 자체 연구개발이 아닌 인수합병(M&A)을 통해 기술을 확보했다. 지난 2020년부터 엔비디아는 멜라녹스, AMD는 펜산도, 마이크로소프트는 펀저블을 인수했다.

김 대표는 "하지만 글로벌 빅테크의 DPU 기술조차 초기 단계에 불과하다"면서 "DPU는 아직 초기 시장이기 때문에 블루오션이고, 향후 성장 가능성이 매우 큰 데다 한국이 충분히 세계 시장을 선도할 수 있는 분야"라고 강조했다.

오픈AI 챗GPT를 비롯해 대규모언어모델(LLM) 개발 경쟁이 뜨거워지고 있는만큼 데이터센터에서 처리해야 할 데이터가 갈수록 늘어나고 있다. 이에 따른 DPU 수요도 증가하고 있다. 시장조사업체 마켓앤드마켓츠에 따르면 글로벌 DPU 시장은 오는 2027년 100조원 규모로 성장할 전망이다.

◇AMD·인텔과 연합전선, 글로벌 100조 시장 겨낭

아직까진 엔비디아가 DPU 시장을 지배하고 있는 가운데 이에 대항하는 연합전선이 망고부스트를 중심으로 꾸려지고 있다. 특히 AMD, 인텔과는 협업 제품을 내놓고 있다. AMD, 인텔이 DPU 하드웨어를 망고부스트가 소프트웨어를 개발한다.

김 대표는 "우리 DPU의 강점은 유연성"이라며 "소프트웨어·하드웨어를 모두 제작할수도, 각각 제작할 수도 있는 등 고객사 맞춤형 솔루션을 제공한다"고 말했다. 이어 "설계, 네트워크 카드, 서버 최적화 등 제품군이 다양하다"고 전했다.



글로벌 시장에서도 제품 성능을 인정받고 있다. 망고부스트는 지난달 미국 워싱턴주 벨뷰에서 실시된 ML퍼프 인퍼런스v5.0 테스트에서 AI 추론 소프트웨어 '망고 LLM부스트'와 AMD 'MI300X' 그래픽처리장치(GPU) 조합으로 라마2-70B 모델 오프라인 추론 부문에서 가장 높은 성능을 기록했다. 엔비디아 'H100' 기반 시스템 성능을 뛰어넘으며 주목받았다.

김 대표는 "엔비디아 DPU 대비 빠르고 저렴하다는 게 차별점"이라며 "망고부스트는 하드웨어를 가속할 수 있는 DPU IP를 다량 보유했기 때문에 빠르고, 엔비디아의 비싼 독점기술을 활용하지 않기 때문에 비용이 3배 저렴하다"고 말했다.

모험자본도 망고부스트를 주목하고 있다. 망고부스트는 시리즈A 라운드까지 진행하며 누적 860억원 투자금을 유치했다. 스톤브릿지벤처스, 신한벤처투자, DSC인베스트먼트, KB인베스트먼트, 한국산업은행 등이 주요 투자자이다.

김 대표는 "시리즈B 라운드를 조만간 정식 진행할 것"이라며 "글로벌 시장 확장에 도움이 되는 전략적투자자(SI) 중심으로 물색할 예정이고, 투자금을 바탕으로 판매조직을 확대해 올해부터 본격 매출을 낼 것"이라고 언급했다.

궁극적인 목표는 글로벌 시스템반도체 시장에서 DPU 분야 1등 기업이 되는 것이다. 김 대표는 "우리가 만드는 DPU가 모든 디바이스를 똑똑하게 만들 수 있도록 할 것이고, 글로벌 시장에서도 성과를 입증해내겠다"라고 강조했다.