[잡담] 메모리값 오늘이 제일쌉니다. (범인찾음)

[(||| º▽˚)]

중국산 메모리도 뛰던데 이놈이 범인이였음 ....

# 베라 루빈 NVL72 상세 요약
- CPU: Vera CPU 36개 (88코어 Arm 기반 Olympus 커스텀 코어, LPDDR5X 메모리 최대 1.5TB 지원)
- GPU: Rubin GPU 72개 (HBM4 메모리 탑재, GPU당 288GB, Transformer Engine 지원)
- 슈퍼칩 단위: Vera CPU 1개 + Rubin GPU 2개 결합
- 기타 칩: NVLink 6 스위치, ConnectX-9 SuperNIC, BlueField-4 DPU, Spectrum-6 Ethernet 스위치 등 6개 칩 극한 공동 설계
## 성능 (Blackwell 대비)
- 추론(Inference): 5배 향상 (NVFP4 기준 3.6 EFLOPS, GPU당 50 PFLOPS)
- 훈련(Training): 3.5배 향상 (NVFP4 기준 2.5 EFLOPS)
- 토큰당 비용: MoE 모델 기준 10분의 1 수준 (추론 비용 대폭 절감)
- MoE 모델 훈련: 필요한 GPU 수 4분의 1로 감소
- 메모리: HBM4 20.7TB + LPDDR5X 54TB
- 대역폭: NVLink 6로 GPU당 3.6 TB/s, 랙 전체 260 TB/s (인터넷 전체 대역폭 초과)

시부레거.....

출처 : 엔비디아

[아으앍아]

얼마전 AI에게 물어봤더니 자신들이 생산 라인 다 차지한다고 지금이라도 구매하라고 말하던데

[편안한 집]

메모리값 폭등 원인은 open ai의 전체 공급의 40% 정도의 초대규모 계약 채결 때문이라는 거임..

[맥스커피]

저런걸로 로컬환경 구축해보고싶엉

[(||| º▽˚)]

대충 5090 20 초에 한장뽑을때 얘는 3000 장쯤 뽑는다고 하더란.... 나도 해보고 싶긴하다.