[잡담] 데스크탑,랩탑칩에 npu넣는게 꼭필요할까싶네

[ump45의 샌드백]

스마트폰쪽은 카메라가있으니 쩃든 넣음 손해까진안보는데

데스크탑,랩탑에선 쓴다해도 솔까 걍 gpu를 쓰지

굳이? npu? 협업한곳에서나 깔짝하지 무쓸모란 말야

면적낭비하지말고 빼면좋겠음

[캣‎타워]

AI쓰는데나 필요하지 그거 굳이 내 장치에서 로컬로 돌릴 필요 없으면 빼고 싸게 살 수 있었으면 좋겠음
필요한 사람이나 사야지 저거 하나 달아놓고 비싸게 팔라고 하는거 별로임

[ump45의 샌드백]

Ai쓰는데 쓰기라도하면 말도안하는데 NPU지금 스마트폰빼면 아예 안쓰이는수준이라
데스크탑에서 NPU쓸일있음 걍 GPU돌리고 만드는입장에서도 GPU가 훨나음

[캐서디]

아니 어짜피 NPU로 LLM 제대로 지원할 것도 아니면서

[ump45의 샌드백]

애초에 기업이 AGI(못달성하겠지만)로 달려가면서 대용량모델 계속 발전시키면서 온라인으로 서비스하는이상 로컬에서 해봤자 더느리고 품질안좋아서 진짜 개 미묘함
스마트폰쪽은 차라리 들고다니니 로컬에서 쓰일일 아예없는건아닌데 고정 데스크탑쪽은 진짜

[캐서디]

킹치만 기업 LLM은 NSFW 필터 엄청 빡세서 ㅋㅋㅋㅋ

무검열 로컬 버전도 있어야 한다고 보는 입장이긴 한데 NPU로는 힘들지

[ump45의 샌드백]

차피 그용도면 긴빠이충들만 쓰고 일반인들은 쓸일도없는 작은시장이라

[캐서디]

이 자식 예리하군