[해설] HBM, 왜 AI 반도체의 핵심이 됐나

HBM(고대역폭 메모리)은 D램 여러 개를 수직으로 쌓아 데이터가 오가는 통로를 크게 넓힌 메모리다. 일반 D램보다 한 번에 훨씬 많은 데이터를 주고받을 수 있다.

AI 서비스에는 방대한 데이터를 빠르게 읽고 써야 하는 연산이 많다. 연산 칩(GPU 등)이 아무리 빨라도 메모리가 데이터를 제때 공급하지 못하면 성능이 떨어진다. 그래서 AI 가속기 옆에 HBM을 바짝 붙여 쓴다.

만들기는 어렵다. 칩을 얇게 깎아 쌓고 수직으로 연결해야 해서 일반 D램보다 공정이 까다롭다. 이 때문에 HBM을 안정적으로 대량 생산할 수 있는 업체가 한정돼 있다. 삼성전자와 SK하이닉스가 AI 시대의 핵심 공급 업체로 거론되는 이유다.