본문
[S/W] 구글, AI 메모리 6배로 줄여 비용 50% 절감하는 '터보퀀트' 기술 공개 [17]
사쿠라모리 카오리P
(1076219)
추천의 달인 추천흡수기 유게이 유저정보
출석일수 : 5360일 LV.207
Exp.99%
추천 9 조회 9124 비추력 962939
작성일 2026.03.26 (20:52:39)
IP : (IP보기클릭)14.32.***.***
- 스크랩
-
URL 복사
프로필 열기/닫기
2026.03.26 (20:52:39)
(IP보기클릭)106.101.***.***
가챠비용이 1/6이 되면, 가챠를 6배 더하겠지
(IP보기클릭)175.118.***.***
효율이 좋아진다 = 좋아진 효율만큼 더욱 더 성능을 높힌다 = 오히려 기존보다 자원이 더 필요해진다 = 메모리 더 필요하다
(IP보기클릭)121.184.***.***
실제 효율은 이 정도네요. KV캐시 크기를 1/6로 줄인다는 거지, 모델 크기를 줄이는 게 아닙니다. https://turboquant.net/ko
(IP보기클릭)58.78.***.***
비슷한 예로 작년 딥시크가 AI리소스 절약해서 칩메이커들 발주수량 줄어 매출이익 대폭감소할것이라고 했는데 정작 리소스 절약한 만큼 더 많은 추론이 가능해지고 규모가 더 커져서 칩 부족에 시달리는 현재상황까지 왔음. 메모리를 최대 6배 압축하면 추론량을 더 늘릴거임
(IP보기클릭)221.163.***.***
좀 다를수도 있지만 동영상 코덱 더 좋아졌다고 압축율 올라갔다고 ssd 수요나 고용량 크기에 대한 니즈가 줄더냐 ㅎㅎ
(IP보기클릭)183.117.***.***
(IP보기클릭)116.123.***.***
내려갈지도? 근데 그것보다 적용된다면 유료 AI 비용이 줄어드니 거기에 따라서 가격이 저렴해지거나 사용 한도를 늘려 줄것 같아서 기대됩니다 | 26.03.26 21:22 | | |
(IP보기클릭)39.119.***.***
글쎄요. 메모리를 일부 절약한다고 해도 시장 자체가 커지면 커졌지 줄어들 것 같지는 않으니 말입니다. | 26.03.26 21:31 | | |
(IP보기클릭)58.78.***.***
루리웹-2793479199
비슷한 예로 작년 딥시크가 AI리소스 절약해서 칩메이커들 발주수량 줄어 매출이익 대폭감소할것이라고 했는데 정작 리소스 절약한 만큼 더 많은 추론이 가능해지고 규모가 더 커져서 칩 부족에 시달리는 현재상황까지 왔음. 메모리를 최대 6배 압축하면 추론량을 더 늘릴거임 | 26.03.26 23:00 | | |
(IP보기클릭)99.119.***.***
비슷하지 않을까요. 지금은 다들 성능 끌어올리는 경쟁중이라 효율 올라가면 남는? 리소스로 성능을 쥐어짜려고 하겠죠. | 26.03.26 23:06 | | |
(IP보기클릭)118.221.***.***
효율이 6배 올라가면 성능을 6배 올리는게 사람이라서요. 당장 ai 영상이 길어야 10초인데 이걸 1분짜리로 만들 수 있다고 하면 할 사람이 많겠죠. | 26.03.27 02:53 | | |
(IP보기클릭)118.51.***.***
(IP보기클릭)106.101.***.***
가챠비용이 1/6이 되면, 가챠를 6배 더하겠지
(IP보기클릭)14.39.***.***
어차피 지금도 깡으로 6배 하고싶어하는데 비용 1/6이라도 되면 좋은 거 아니겠어요 | 26.03.26 22:25 | | |
(IP보기클릭)175.118.***.***
효율이 좋아진다 = 좋아진 효율만큼 더욱 더 성능을 높힌다 = 오히려 기존보다 자원이 더 필요해진다 = 메모리 더 필요하다
(IP보기클릭)125.246.***.***
(IP보기클릭)121.184.***.***
실제 효율은 이 정도네요. KV캐시 크기를 1/6로 줄인다는 거지, 모델 크기를 줄이는 게 아닙니다. https://turboquant.net/ko
(IP보기클릭)211.203.***.***
(IP보기클릭)221.150.***.***
(IP보기클릭)221.163.***.***
좀 다를수도 있지만 동영상 코덱 더 좋아졌다고 압축율 올라갔다고 ssd 수요나 고용량 크기에 대한 니즈가 줄더냐 ㅎㅎ
(IP보기클릭)121.141.***.***
(IP보기클릭)118.33.***.***