M4 맥미니 깡통에서 qwen3.8 27b 모델을 돌려봤습니다

unsloth/Qwen3.8-27B-GGUF · Hugging Face

M4 맥미니 깡통 모델 사실 SSD는 2테라로 교체하긴 했지만 16기가램 모델이죠 

LM 스튜디오로 해당 모델을 돌려봤는데 그냥은 안돌아가고 옵션을 많이 낮춰줘야 하더라고요...

추론이랑 다 끄고 돌려도 초당 2토큰 정도

그냥 돌아가는구나 수준입니다

LM스튜디오 말고 더 가벼운 수동 세팅으로 진행하면 쬐끔 더 나아질 것 같긴 합니다만

뭐 된다고 해도 실시간으로 사용하긴 좀 힘들 거 같고

이것저것 자동화 걸어놓고 속도 신경 안쓰는 작업들에 활용하면 모를까 애매하네요

데스크탑의 5070ti 16기가로도 좀 애매할 것 같고

생각난 김에 M4 맥미니 32기가 정도 찾아보니 가격이...

맥미니 24기가 정도가 그나마 저렴?하긴 한데 24기가도 애매하고

가격도 많이 올라서 애매하고 뭐 그렇네요

차라리 한 번에 DGX 스파크를 가볼까? 하니 그것도 6~700정도

5090도 7~800이상 맥북이나 맥미니 프로도 32기가 이상은 가격이 뭐...

이미지나 영상 쪽 사용할 거 아니고 장시간 켜놓고 사용할 거라면

확실히 5090보다는 DGX 스파크 같은 고용량 램에 저전력 제품이 나을 것 같긴한데

제 기준에서 로컬 LLM을 쓸만하게 세팅하려면 대충 700이상은 생각해야 할 거 같네요

쇼츠보다가 생뚱맞게 예전 3D 프린터처럼 레이저 각인기에도 꽂혀서 좀 쓸만한 것 찾아보니

1500만 정도... 로또랑 연금복권 꾸준히 사야겠습니다

연말에 M5 맥미니 나온다는 이야기가 있던데

그 때 가격 괜찮으면 24기가나 32기가 한 번 생각 해봐야겠네요