[잡담] 황회장이 삼성에서 HBM (메모리) 공급 받으려는 이유

[Endgame]

지금 엔비디아가 팔고 있는 AI가속기(블랙웰)의 단가에서 50% 이상이 램가격 이라고 추정됨. 사실상 SK단독 공급이라 마진이 미친듯이 나오고 있음.

엔비디아 입장에서는 삼성이 양산을 해줘야지 단가를 내릴수 있음. 단가 10%만 내려도 엔비디아 영업이익은 역대 최고 찍을꺼임 (지금 없어서 못파는 거니...)

삼성도 당연히 공급만하면 영업이익이 얼마나 뻥튀기 될지도 모름.

더 무서운건 이게 돌고 돌라 메모리 숏티지가 와서 최근 한달간 용팔이들은 램값 2배 받아 처먹고 있음 ㅋㅋㅋㅋ

출처 : 에미나이

[트레센1급트레이너]

그래서 램값이 올랏구나

[Endgame]

기사로는 이제 시작이라는 말이 있더라. 향후 몇년은 전세계적으로 메모리 부족이라고.

[날으는붕어빵]

메모리 자체 수율 × TSV 수율 × 패키징 수율 = 헬게이트

[날으는붕어빵]

심지어 HBM 이 새낀 칩 하나에 8채널(HBM2, 2e), 16채널(HBM3, 3e)에 채널 당 신호 수가 100개를 넘어서 리페어 자원이 있다한들 하나 뻑나면 뒤지는거임 ㄹㅇ ㅋㅋ

[Endgame]

궁금한게 비싼만큼 HBM써야지 퍼포먼스가 나오는거야?

[날으는붕어빵]

업계 트렌드에서 나오는 이야기가 메모리월이거든
이게 쉽게 말하면 프로세서의 연산능력 증가 속도를 메모리 대역폭이 못따라간다는 이야기임
이걸 대응 하고자한 방법이 1) 메모리 접근 속도 자체를 올리기(GDDR) 2) 한번에 왔다갔다할 수 있는 데이터 핀 수를 늘리기(HBM)
다만 최종 대역폭은 HBM 쪽이 더 높아서 그런지 현 세대까지는 어느정도 양립 했는데 다음 세대부턴 HBM 쪽으로 무게가 실리는 듯함

[날으는붕어빵]

번외로 이야기 나오는 PIM(process in memory), PNM(process near memory) 도 이거를 해결하기 위한 또다른 접근 방법임
메모리에서 데이터를 갖고 와서 프로세서에서 처리하는 과정에서 메모리 접근 시간이 병목이라면
메모리에서 1차 처리한 데이터를 프로세서에서 마저 처리하게 해서 메모리 접근 횟수 자체를 줄이면 되지 않을까? 라는 식