GTC 2024가 끝나고 주가는 천장을 뚫었습니다.
하지만 샌타클래라 본사의 엔지니어링 미팅 분위기는 사뭇 비장합니다.
외부에선 우리를 'AI 거품의 주역'이라 부르지만, 내부에서는 생존을 위한 하드웨어 주권 이야기를 합니다.
최근 젠슨(Jensen Huang)이 던진 화두가 사내망 슬랙(Slack)을 뜨겁게 달구고 있습니다.
"We've done our country a great disservice by offshoring."
(우리는 오프쇼어링으로 국가에 큰 해악을 끼쳤다.)
단순히 "미국 공장을 짓자"는 애국심 마케팅이 아닙니다.
이건 철저히 엔지니어링 효율과 TCO(총 소유 비용) 관점에서 나온 뼈 있는 반성입니다.
수십 년간 실리콘밸리는 '설계'만 하고 '생산'은 밖으로 돌렸습니다.
소프트웨어 아키텍처는 고도화되었지만, 정작 그 코드가 돌아가는 실리콘과 패키징 기술에 대한 이해도는 바닥을 쳤습니다.
제가 삼성전자 메모리사업부에 있을 때 뼈저리게 느낀 게 있습니다.
하드웨어 스펙을 모르는 소프트웨어 엔지니어는 결국 Latency(지연 시간)의 병목이 어디서 터지는지 영원히 찾아내지 못합니다.
젠슨의 발언은 바로 그 지점을 찌른 겁니다.
"제조를 밖으로 보내면서, 우리는 '어떻게 만드는지'에 대한 감각을 잃어버렸다."
이건 단순히 공장의 문제가 아닙니다.
Feedback Loop(피드백 루프)의 단절입니다.
칩을 설계하고, 생산하고, 테스트해서 다시 설계에 반영하는 사이클이 너무 길어졌습니다.
엔비디아가 지금 TSMC와 패키징 공정에 목숨을 거는 이유도 여기 있습니다.
CoWoS(Chip on Wafer on Substrate) 수율이 안 나오면, 아무리 멋진 H100 아키텍처도 그림의 떡입니다.
젠슨은 또 하나 흥미로운 포인트를 짚었습니다.
"우리는 박사(PhD)들만을 위한 번영이 아니라, 모두를 위한 번영을 만들어야 한다."
지금의 AI 붐이 소수의 AI 리서처나 LLM 모델러들의 전유물이 되어서는 안 된다는 경고입니다.
현업에서 보면 이 말이 더 와닿습니다.
지금 실리콘밸리에서 가장 몸값이 비싼 건, 새로운 모델을 만드는 박사급 인력이 아닙니다.
그 모델을 안정적으로 서빙(Serving)하고 최적화(Optimization) 할 수 있는 인프라 엔지니어입니다.
수천 개의 GPU 클러스터를 엮었을 때 발생하는 NCCL 통신 병목을 해결할 수 있는 사람.
CUDA 커널 레벨에서 메모리 액세스 패턴을 뜯어고쳐 Throughput(처리량)을 10%라도 올릴 수 있는 사람.
이런 '블루칼라' 성격의 고숙련 엔지니어링이 진짜 부가가치를 만듭니다.
젠슨의 말은 결국 "Grounding(기반 다지기)"으로 귀결됩니다.
추상화된 라이브러리 뒤에 숨지 마십시오.
한 줄이면 모든 게 해결된다고 착각하는 순간, 당신의 커리어는 거기서 멈춥니다.
지금 엔비디아가 원하는 인재상도 명확합니다.
화려한 논문 실적보다, 새벽 3시에 터진 커널 패닉(Kernel Panic) 로그를 보고 하드웨어 결함인지 드라이버 문제인지 찍어낼 수 있는 '독기' 있는 엔지니어입니다.
오프쇼어링의 시대가 저물고 있습니다.
이제는 코드가 물리적인 하드웨어 위에서 어떻게 춤추는지 이해하는 사람만이 살아남습니다.
당신이 작성한 파이썬 코드 한 줄이, 실제 HBM 메모리 셀에서 어떤 전압 변화를 일으키는지 상상해 본 적 있습니까?
그 상상력이 없다면, 당신은 아직 젠슨이 말하는 '모두를 위한 번영'에 탑승할 준비가 안 된 겁니다.
