AI Infra Summit Day 1: AI 인프라 모멘텀은 견고하다 (Bofa)
1. 인프라 투자 확대, 둔화 조짐 없음
• 2026년 AI 인프라 서밋(산타클라라)에서 NVDA, AMD, INTC, OpenAI, Meta, AWS, Google, CRDO 등과 키노트 진행
• AI 인프라 투자는 칩벤더, 프론티어랩, 데이터센터 운영사 전반에 걸쳐 여전히 견고
• 추론 연산의 분산화 추세는 지속되나, 범용성 수요도 매우 높음
• 메모리·전력·인터커넥트 제약은 지속되며 2027년에는 더욱 타이트해질 전망
• 트레이닝 스케일링 법칙은 여전히 유효하며, GPT-6 Astra 등에서 ROI가 점점 가시화
• GPU/가속기 수명은 상각 주기를 훨씬 뛰어넘어 10년에 근접
• 소프트웨어/최적화가 전력당 성능 개선의 핵심 동력으로 부상
2. AI 트렌드: 추론 분산화, 그러나 범용성 병행
• 추론 컴퓨트는 프리필(prefill)과 디코드(decode) 최적화 실리콘으로 점차 분화되는 중
• 다만 에이전틱 워크로드는 다양성이 크고 빠르게 변화하여, 하드웨어를 지나치게 특화하는 것은 칩벤더·데이터센터 모두에게 리스크
• 대용량 메모리 대역폭 등 범용성을 유지하는 제품이 유리
• 범용 GPU가 약 70~75%의 시장 점유율을 차지하고, 나머지는 특화 ASIC/XPU가 담당할 것으로 전망
3. 핵심 병목: 메모리, 전력, 인터커넥트
• 메모리 대역폭과 용량이 가장 광범위하고 타이트한 제약으로 부각, 2027년에는 더욱 타이트해질 전망
• 전력이 다음 제약 요인으로, 칩벤더·프론티어 모델 개발사·데이터센터 운영사 모두 전력 효율 공동설계에 주력
• NVDA는 신규 DSX MaxLPS 기술을 공개, 동일한 데이터센터 전력 한도 내에서 연산·처리량·매출을 40% 추가 확보 가능
• 인터커넥트는 부족 현상이 심화되며, 결국 광통신/CPO로의 전환을 촉진할 전망이나 신뢰성이 여전히 도입의 관건
4. 스케일링 법칙 유효, GPU 수명은 10년에 근접
• 트레이닝 스케일링 법칙은 여전히 유효하며, 매년 컴퓨트 단계적 증가를 뒷받침
• GPT-6 Astra는 Blackwell에서 대규모로 학습된 첫 모델로 성과가 가시화
• OpenAI는 Blackwell 최적화 Astra 모델을 최신 Vera Rubin 스택에서 구동해 최소한의 수정만으로 약 3배의 처리량 향상을 달성했고, 약 72시간의 경량 최적화만으로 추가로 약 2배 향상을 이끌어냄 — 이는 NVDA의 프로그래머 친화성, 컴파일러, 툴링 경쟁력을 뒷받침
• GPU 자산 수명은 소프트웨어(CUDA) 개선과 공급 부족으로 계속 길어지는 추세: AWS는 2017년형 V100을, GCP는 2020년형 A100을, Google은 내부적으로 6~10년 된 TPU v2~v4를 여전히 활용 중이며, 이는 상각 주기를 훨씬 초과하는 수준
Forwarded from엄브렐라리서치 Jay의 주식투자교실
September 16, 2026 1.3K 18
