PIM 기술 적용 새 메모리 제품군 학회서 공개
“D램 모듈에 AI 탑재한 AXDIMM, 성능 2배 에너지 사용 40% 감소”

삼성전자가 2월 공개한 HBM-PIM 제품./이미지=HBM-PIM
삼성전자가 2월 공개한 HBM-PIM 제품./이미지=HBM-PIM

[포쓰저널=문기수 기자] 삼성전자가 AI(인공지능)엔진을 탑재한 메모리 반도체 제품군을 확대한다.

삼성전자는 메모리와 시스템반도체의 융복합화를 통해 차세대 메모리 반도체 생태계를 빠르게 확대해 나간다는 계획이다.

삼성전자는 24일 온라인으로 개최된 Hot Chips 학회에서 2월 업계 최초로 개발한 HBM-PIM 뿐만 아니라 PIM(PIM(Processing-in-Memory) 기술을 적용한 다양한 제품군과 응용사례를 소개했다고 밝혔다.

HBM-PIM은 메모리 반도체와 인공지능 프로세서를 하나로 결합한 AI 메모리제품이다.

PIM 기술이란 메모리 내부에 연산 작업에 필요한 프로세서 기능을 더한 차세대 신개념 융합기술이다.

Hot chips 학회는 업계에서 주목받는 차세대 반도체 기술이 공개되는 학회다. 1989년부터 매년 개최되고 있다.

삼성전자는 이날 학회에서 D램 모듈에 AI엔진을 탑재한 'AXDIMM(Acceleration DIMM)', 모바일 D램과 PIM을 결합한 'LPDDR5-PIM' 기술, HBM-PIM의 실제 시스템 적용 사례를 각각 소개했다.

AXDIMM은 PIM 기술을 칩단위에서 모듈단위로 확장한 것으로 D램 모듈에 인공지능 엔진을 장착한 제품이다.

삼성전자가 글로벌 고객사들의 서버 환경에서 AXDIMM에 대한 성능 평가를 진행한 결과 성능은 약 2배가 향상됐고, 시스템 에너지는 40% 이상 감소한 것이 확인됐다.

삼성전자는 초고속 데이터 분석 영역뿐만 아니라 모바일 분야까지 PIM을 확대 적용한 'LPDDR5-PIM' 기술을 공개했다.

삼성전자 측은 PIM 기술이 모바일 D램과 결합할 경우 데이터센터와 연결 없이 휴대폰 독자적으로 AI 기능을 수행할 수 있는 On-Device AI의 성능과 에너지 문제를 효과적으로 해결할 수 있을 것으로 예상된다고 밝혔다. 또한, 시뮬레이션 결과, 음성인식, 번역, 챗봇 등에서 2배 이상의 성능 향상과 60% 이상의 에너지 감소가 확인됐다고 했다.

On-Device AI란 멀리 떨어진 클라우드 서버를 거치지 않고 스마트기기 자체적으로 정보를 수집하고 연산하는 것을 말한다.

또한, 삼성전자는 2월 공개한 HBM-PIM을 실제 시스템에 탑재한 검증 결과도 Hot Chips 학회에서 발표했다.

FPGA 개발 업체인 미국 자일링스(Xilinx)에서 이미 상용화 중인 AI 가속기 시스템에 HBM-PIM을 탑재했을 경우 기존 HBM2를 이용한 시스템 대비 성능은 약 2.5배 높아지고, 시스템 에너지는 60% 이상 감소된다고 밝혔다.

삼성전자 메모리사업부 DRAM 개발실 김남승 전무는“HBM-PIM은 업계 최초의 인공지능 분야 맞춤형 메모리 솔루션으로, 이미 고객사들의 AI 가속기에 탑재되어 평가되고 있어 상업적 성공의 가능성을 보였으며, 향후 표준화 과정을 거쳐 차세대 슈퍼컴퓨터 및 인공지능용 HBM3, On-Device AI용 모바일 메모리 및 데이터센터용 D램 모듈로 확장할 예정”이라고 밝혔다.

삼성전자는 내년 상반기내 다양한 고객사들의 AI 가속기를 위한 PIM 기술 플랫폼의 표준화와 에코 시스템 구축을 완료해 인공지능 메모리 시장을 확대해 나갈 예정이다.

관련기사

저작권자 © 포쓰저널 무단전재 및 재배포 금지