삼성전자가 빠르게 확산하는 인공지능(AI) 시스템의 메모리 병목 현상을 해결할 수 있는 AI 가속기(칩)인 ‘마하1(MACH-1)’을 개발중이라고 처음 공개했다. 이르면 연말께 개발을 완료하고 내년초 양산하겠다는 계획도 밝혔다. 이에 따라 엔비디아가 독식하고 있는 AI 반도체 시장에서 삼성전자가 강력한 대항마로 부상할 수 있을지 주목된다.

경계현 삼성전자 DS부문(반도체) 대표이사 사장은 지난 20일 경기 수원시 수원컨벤션센터에서 열린 정기주주총회 이후 진행된 ‘주주와의 대화’에서 현재 개발중인 AI 반도체 ‘마하1’을 처음 공식 언급했다.

경 사장이 밝힌 마하1은 추론에 특화된 가속기다. 삼성전자가 네이버와 협력해 개발중인데, 기존 AI 가속기의 전력 소모를 획기적으로 줄여 계획대로 선보인다면 AI 가속기 시장에서 ‘게임 체인저’로 떠오를 수 있다는 기대다. 현재 엔비디아가 장악하고 있는 AI 가속기 시장에 도전장을 내민 것이다. 앞서 지난 2022년 삼성전자가 네이버와 협력해 AI 반도체를 만든다는 사실이 알려지긴 했으나 실제 제품 이름이 공개된 것은 이번이 처음이다.

통상 AI의 학습 속도를 높여주는 그래픽처리장치(GPU)가 제대로 된 성능을 내려면 고성능 메모리칩이 필요하다. 마하1은 특히 메모리와 GPU와의 병목 현상을 해소할 수 있는 구조로 고대역폭메모리(HBM) 대신 저전력(LP) 메모리를 활용해도 대규모언어모델(LLM) 추론을 가능하게 해주는 칩이다. 굳이 엔비디아 GPU를 쓰지 않아도 AI 학습 속도를 높여줄 수 있다는 뜻이다.

경 사장은 “AI 시대에는 컴퓨트와 메모리가 대규모 결집한다”며 “그러나 현존하는 AI 시스템은 메모리 병목으로 성능 저하와 파워 문제를 안고 있다”고 말했다. 실제 엔비디아를 포함해 대다수 AI 반도체는 성능 향상에 집중한 나머지 전력 소모(TDP)가 기하급수로 늘어나는 문제가 있다.

삼성전자는 이같은 문제를 개선한 AI 반도체를 만들기 위해 AGI(범용인공지능) 컴퓨팅랩을 신설하고 AI 아키텍처의 근본 문제를 해결하는데 주력해왔다. 이를 위해 미국과 한국에 AGI 컴퓨팅랩을 설립했다. 바로 AGI 컴퓨팅랩이 마하1 칩 개발을 담당하며, 구글 AI 작업 특화 반도체인 텐서처리장치(TPU) 개발자 출신인 우동혁 박사가 이끈다.

경 사장은 “(마하1은) 여러 알고리즘을 써서 메모리와 GPU 사이 병목을 8분의1로 줄여, HBM보다는 LP 메모리를 써도 LLM(대규모언어모델)의 추론이 가능하도록 준비 중”이라고 강조했다.

그는 “현재 프로그래머블칩(FPGA)으로 마하1의 기술 검증이 끝나 시스템온칩(SoC) 디자인을 하고 있다”며 “연말에 칩을 만들어 내년 초에 저희 칩으로 이뤄진 AI 시스템을 볼 수 있을 것”이라고 밝혔다.