취미
dgx spark 나 asus gx10 돌리시거나 고려하시는 분 있으신가요?
(”취미“ 입니다 ㅎㅎ)
요새 슬슬 이거 2대씩 들여서 비싼 취미 생활하시는 분들이 보이는거 같습니다.
1대는 어찌 무리해보겠는데, 2대가 있어야 제대로 쓸 수 있다는게... ^^
그래서 고려 중이시거나, 혹 이미 굴리시는 분이 있으시면 어떤 계획 or 상황이신지 궁금합니다. 1대로 운용하시는 분 있으시면 더더욱 궁금합니다! ㅎㅎㅎ
전 고민하다 걍 M5 Max 256 으로 갔어요. 근데 요즘 코딩하느라 로컬 모델은 거의 손도 못대고 있다는게 함정 ㅠ
256이면 충분하겠네요. 대역폭 생각하면 더 나은 점이 많을거 같아요
1대로 35B A3B 돌리다가 200B 근처 모델들 궁금해서 한대 더사서 Deepseek v4 Flash 0731 메인으로 돌리고 있습니다
Hermes Agent 세팅해서 에이전트 돌려보고 있고, 1M 컨텍스트, 동시 6세션, 시스템 최대 2.5M 토큰 정도가 한계이고, 출력토큰은 초당 50~60 토큰 정도 나옵니다.
애플 제품 사실거면 프리필 속도 처참해서 잘 고민해보고 사셔야 하고, GB10 들어간 하드웨어는 이제 가격이 올라서 이 돈 주고 살건가 싶긴 합니다.
제가 구매할땐 535, 590에 각각 구매했습니다.
500만원대 구매는 상당히 부럽네요. 말씀처럼 많이 올라버려서.. ㅠ
뛰어드는 회사들 늘어나고 경쟁 (+ 다음 세대?) 제품 나올 흐름이 될 것 같아 GB10 호환기는 주저하게 되긴 하네요. 샤오미에서 메모리 대역폭 1T 넘는 기기 발표한 걸 보고 더 고민에 빠져 있습니다.
msi껄로 620에 2테라 모델 샀었는데.. 한대만으로는 역시나 역부족.. 한대 더 사고 싶은데 800만원대로 올랐더군요 -_-;;;
올해 초에 맥북 프로 m5 최고 사양으로 860인가에 128기가 모델 샀는데.. 이것도 메모리가 아쉽고.. (지금은 천만원이 넘데요 ㄷㄷㄷ)
msi살때.. 두대 사까 고민하다가 한대만 샀는데.. 역시나 후회..;;
역시 256기가까지는 가야 편안해지나 봅니다...
혹시 DGX Spark 랑 AMD Strix Halo 시리즈 비교 사용하시거나 동시에 사용하고 계신 분도 계실까요?
LLM답은 CUDA라고는 하긴 하는데... 가격이... ㅠㅠ
요즘 ROCm도 많이 좋아졌다고 하는데, 실 사용하시는 분들의 후기/비교기가 궁금합니다
맥스튜디오 M5 Ultra 나왔네요.
M5 Ultra (대역폭 1.2TB) 256기가 옵션 보니
미국 9500달러 / 한국 1600만원
하... ㅠ