
하이닉스가 잘나가는 이유: AI의 진짜 병목은 GPU가 아니었습니다
AI 하면 다들 엔비디아만 떠올리지만, 진짜 병목은 계산이 아니라 데이터를 얼마나 빨리 먹이느냐였습니다. 그 자리에 HBM이 있고, 그 어려운 시장을 하이닉스가 먼저 장악한 이유를 짚어봅니다.
송찬영
CTO
요즘 제 화면에는 사람이 시키지 않아도 알아서 일하는 프로그램이 하나 떠 있습니다. 코드를 읽고, 파일을 고치고, 테스트를 돌리고, 틀리면 다시 고치는 AI 코딩 에이전트입니다. 저는 그 옆에서 가끔 방향만 잡아 줄 뿐, 실제 손은 그 친구가 훨씬 많이 움직입니다.
그 모습을 한참 보고 있자니 문득 궁금해졌습니다. 이 에이전트가 쉬지 않고 토큰을 찍어내는 동안, 그 아래 어딘가에서는 도대체 무엇이 돌아가고 있을까. AI 이야기를 하면 다들 엔비디아 GPU를 떠올리지만, 저는 그날 조금 다른 곳에 시선이 갔습니다. 오늘은 그 이야기를 해 보려고 합니다.
AI 시대의 진짜 병목은 GPU가 아니라 메모리, 그중에서도 HBM이었다는 관점입니다. 그리고 그 어려운 시장에서 왜 하이닉스가 앞서 있는지, 차근차근 따라가 보겠습니다.
사람들은 AI 하면 엔비디아만 떠올립니다
맞는 말입니다. AI 서버의 중심에는 분명 GPU가 있습니다. 그래서 AI 붐의 주인공 자리는 자연스럽게 엔비디아 차지가 됐습니다.
그런데 여기서 한 가지가 자주 빠집니다. GPU가 아무리 빨라도, 데이터를 제때 공급받지 못하면 그 성능을 다 쓰지 못한다는 점입니다. 핵심은 계산 속도만이 아닙니다. 데이터를 얼마나 빨리 먹이느냐가 진짜 관건입니다. 엔비디아의 젠슨 황도 AI 팩토리의 성능에는 고성능 메모리가 필수라고 직접 언급한 적이 있습니다.
그래서 HBM이 중요해졌습니다
여기서 등장하는 것이 HBM입니다. High Bandwidth Memory, 말 그대로 데이터를 아주 넓은 통로로 GPU에 밀어 넣는 초고속 메모리입니다. GPU를 거대한 공장이라고 치면, HBM은 그 공장 바로 옆에 붙은 초광폭 고속도로입니다.
좁은 1차선으로 부품을 나르던 기존 메모리와 달리, HBM은 GPU 바로 옆에서 넓은 다차선으로 데이터를 쏟아붓습니다. AI 모델이 커질수록 GPU는 더 많은 데이터를 더 빠르게 요구하기 때문입니다.
AI가 커질수록, 메모리의 가치도 커집니다.
그런데 HBM은 아무나 잘 만들 수 없습니다
HBM이 어려운 건 구조 자체가 까다롭기 때문입니다. 여러 개의 DRAM을 차곡차곡 쌓아 올리고, 그걸 GPU와 가까운 곳에서 초고속으로 연결해야 합니다. 수율도, 발열도, 패키징도, 고객 인증도 하나같이 쉽지 않습니다. 어느 한 곳에서 삐끗하면 전체가 무너지는 공정입니다.
그리고 바로 이 어려운 시장에서 하이닉스가 이미 앞서 있습니다. 2026년 1분기 기준 글로벌 HBM 점유율을 보면, 삼성전자와 마이크론이 각각 21% 수준인데 하이닉스는 58%입니다. AI 시대의 병목을, 하이닉스가 먼저 장악한 셈입니다.
가장 중요한 고객이 엔비디아입니다
HBM 시장에서 가장 중요한 고객은 결국 엔비디아입니다. AI 인프라의 중심에 엔비디아가 있고, 그 GPU에는 고성능 메모리가 반드시 필요하기 때문입니다. 좋은 메모리를 만드는 회사와, 그 메모리가 가장 필요한 회사가 만나는 자리입니다.
2026년 6월, 엔비디아와 하이닉스는 AI 팩토리용 차세대 메모리 공동개발을 위한 다년 기술 파트너십을 발표했습니다. 로이터가 전한 이 소식의 핵심은 관계의 성격이 바뀌었다는 점입니다. 부품을 받아 가는 단순 납품사가 아니라, 다음 세대를 함께 설계하는 파트너가 됐습니다.
기대감이 아니라, 이미 숫자로 찍히고 있습니다
이쯤 되면 그냥 기대감 아니냐는 의심이 들 수 있습니다. 그런데 이 이야기는 이미 손익계산서에 찍히고 있습니다. 하이닉스는 2025년에 회사 역사상 최고 실적을 기록했습니다.
2025년 매출은 약 97조 원, 영업이익은 약 47조 원이었습니다. 그리고 2026년 1분기에는 매출 53조 원, 영업이익 38조 원, 영업이익률 72%를 기록했습니다. 영업이익률 72%라는 숫자는 제조업에서 좀처럼 보기 힘든 수준입니다. AI 메모리 수요가 막연한 전망이 아니라 이미 현실의 실적으로 들어와 있다는 뜻입니다.
수요가 폭발해도 공급은 버튼 하나로 늘지 않습니다
좋은 시장의 조건 중 하나는, 수요는 큰데 공급이 쉽게 따라붙지 못한다는 점입니다. 반도체가 딱 그렇습니다. 공장은 짓는 데 오래 걸리고, HBM은 일반 DRAM보다 생산과 패키징이 더 까다롭습니다. 수요가 폭발한다고 버튼 하나로 물량을 늘릴 수 있는 게 아닙니다.
최태원 회장은 하이닉스가 향후 5년간 웨이퍼 생산능력을 두 배로 늘릴 계획이라고 밝혔습니다. 그러면서도 메모리 공급 병목이 2030년까지 이어질 수 있다고 봤습니다. 만드는 쪽에서 두 배로 늘리겠다는데도 한동안 모자랄 수 있다는 이야기는, 이 시장의 수요가 얼마나 강한지를 거꾸로 보여 줍니다.
메모리 산업의 룰 자체가 바뀌고 있습니다
저는 이 대목이 가장 흥미로웠습니다. 예전 메모리는 많이 만들면 가격이 떨어지는, 전형적인 가격 사이클 산업이었습니다. 호황이 오면 다들 증설하고, 그러다 공급이 넘치면 가격이 무너지는 일이 반복됐습니다.
그런데 HBM은 결이 다릅니다. 엔비디아의 GPU 로드맵에 맞춰 성능, 용량, 전력, 발열, 패키징을 함께 맞춰야 합니다. 로이터는 이번 협력이 메모리가 범용 상품에서 고객 맞춤형 비즈니스로 진화한다는 해석을 강화했다고 전했습니다. 가격표만 보고 사 가는 부품이 아니라, AI 시스템을 같이 설계하는 요소가 됐습니다.
수요의 진짜 원천은 '에이전트 토큰'입니다
그리고 다시 제 화면 속 에이전트로 돌아오게 됩니다. 예전의 챗봇은 사람이 질문할 때만 답했습니다. 한 번 묻고, 한 번 답하면 끝이었습니다. 그래서 수요에도 한계가 있었습니다.
하지만 AI 에이전트는 다릅니다. 사람이 맡긴 일을 끝낼 때까지 계속 일합니다. 코드를 읽고, 파일을 고치고, 테스트를 돌리고, 또 고치기를 반복합니다. 그 과정에서 토큰이 쉼 없이 생성됩니다. 그리고 그 토큰을 찍어내는 공장에는 GPU와 HBM이 필요합니다. 에이전트 시대의 수요는 앱 화면에서 끝나지 않고, 토큰을 생산하는 인프라까지 그대로 내려갑니다.
그래서 다시, 하이닉스가 잘나가는 이유
물론 무조건 장밋빛만은 아닙니다. 삼성과 마이크론의 추격이 있고, AI 칩 지연이나 재고 같은 변수도 분명히 존재합니다. 핵심은 무조건 좋다는 게 아니라, 지금 AI 인프라의 병목에서 가장 유리한 자리에 서 있다는 점입니다.
AI 시대의 금맥이 GPU라면, HBM은 그 금맥을 캐내는 혈관입니다.
그리고 AI가 답변만 하던 시대에서 AI가 직접 일하는 시대로 넘어갈수록, 그 혈관을 타고 흘러야 할 데이터의 양은 더 많아질 가능성이 큽니다. 하이닉스가 주목받는 이유는 단순히 반도체 사이클이 좋아서가 아니라, AI가 일하는 시대의 핵심 인프라가 바로 HBM이기 때문입니다.
우리는 어디서 일하고 있는가
이 이야기를 길게 적은 건, 사실 제 일과도 맞닿아 있기 때문입니다. 저희는 업무 시스템과 ERP, 그 위에서 도는 AI를 만듭니다. AI 에이전트가 고객사의 업무를 대신 돌리는 그림을 매일 그리고 있습니다. 그런데 그 그림이 멋질수록, 저는 그 아래에서 토큰을 찍어내는 인프라가 자꾸 떠오릅니다.
화려한 모델과 매끈한 화면 뒤에는 늘 누군가가 묵묵히 만드는 기반이 있습니다. HBM처럼 눈에 잘 안 띄지만, 그게 없으면 위층의 모든 게 멈추는 자리입니다. 결국 진짜 가치는 가장 잘 보이는 곳이 아니라, 병목이 걸리는 그 한 지점에 모이는 것 같습니다.
여러분의 일에서 진짜 병목은 어디에 있습니까. 가장 화려한 자리입니까, 아니면 모두가 당연하게 여기고 지나치는 그 어딘가입니까. 저도 그 질문을 품고 다시 화면 속 에이전트 옆으로 돌아갑니다.