[영상] 맥에서 수조 개의 매개변수를 가진 AI를 실행해 봤습니다... 그 비밀을 공개합니다

512기가 메모리의 맥스튜디오 4대...

5만 달러(대략 한화 7200만) 정도 된다고 합니다

image.png.webp

영상에서는 KIMI-K2.5, GLM-4.7, Qwen3 4B 모델을 테스트 해보네요

Qwen3 모델은 경량 모델이니 제외하고

KIMI-K2.5, GLM-4.7 모델은 맥 스튜디오 2대 연결했을 때(초당 KIMI 23토큰, GLM 14토큰)랑

4대 연결했을 때(초당 KIMI 29토큰, GLM 23토큰) 차이가 크지 않으니

2대 연결이 가성비?가 좋을 거 같습니다...

맥 스튜디오 4대 풀로 돌려도 300와트가 안되는 건 확실히 좋네요

Read more

시놀로지 도커에 openclaw 설치하기

오픈클로를 도커에 설치하는 방법을 문의하신 분이 계셔서 작성 해봅니다 현재 오픈클로는 나온지 얼마 안됐고 계속 업데이트가 되고 있는 상황이기 때문에 설치 방법이 달라질 수 있습니다 Docker - OpenClaw https://docs.openclaw.ai/install/docker 제 개인적인 의견은 공식 문서를 참고하시는 걸 추천 드립니다 우선 시놀로지에 설치 하기 위해서는 패키지 센터에서

By 빨간물약

GLM-5 모델 출시와 함께 가격인상

https://svrforum.com/software/2992940 얼마 전에 위 링크 글을 통해 1년 4만원 결제로 상급 모델 사용이 가능하다고 알려드렸던 GLM에서 5버전 출시와 함께 가격 인상을 한다는 이메일이 왔네요 다행히 기존에 이미 사용하는 사람들은 상관 없다고 합니다 내용은 11일 부터 인상이라는데 시차 때문인지 아직 할인된 가격이 적용 되는 거 같습니다 사용을

By 빨간물약

Openclaw를 시놀로지 도커에 설치 해봤습니다

wtr pro n100 네이티브 헤놀에 설치 했습니다 (꺼져있는 CLI 컨테이너는 CLI 접속 시에만 동작 합니다) 어차피 api를 사용하니 도커도 괜찮겠다 싶어서 시도 해봤는데 간단한 문답은 자원 소모가 거의 없네요 텔레그램과 대시보드도 잘 되고 SSH 접속을 통한 CLI 설정도 잘 됩니다 GLM-4.7 API를 사용하는 거라 일반적인 대화 성능은 맥미니랑 크게

By 빨간물약