Microsoft 1-bit으로 학습한 BitNet | 경쟁 모델보다 앞선 성능에도, 겨우 400MB 사용, CPU로 구동 가능

Share

오 본문에 영상 넣으니 제목이 자동으로 입력 되네요

이제 GPU없이 구동 되는 모델도 나왔습니다

물론 결과물이 GPU 사용 고사양 모델들과 비교할 수준은 아니지만

CPU와 400메가의 메모리와 적은 소비 전력으로

비슷한 체급의 GPU 사용 모델과 비슷하거나 더 나은 수준을 보여주면서

어느정도 결과물을 뽑아낸다는 점을 봤을 때 앞으로의 발전이 기대됩니다

영상에서 언급하는 온디바이스 뿐만 아니라

좀 더 발전 한다면 외장 GPU가 없는 미니피씨 서버에서도 잘 돌아가는 AI가 나올 수도 있겠네요

공개가 된 상태라 지금 사용 가능하다고 하니 관심 있으신 분들은 찍먹 해보셔도 좋을 거 같습니다

Read more

시놀로지 도커에 Motrix 다운로더 설치하기 (ft. 확장프로그램)

https://svrforum.com/software/3186784   얼마 전에 소개 했던 Motrix 앱은 2.0.0 베타 버전이라 지금 활발하게 버그 수정이 되고 있는 상태입니다   도커 버전을 지원해서 설치를 해봤었는데 사용하는 사람이 별로 없는지 수정 안된 버그가 좀 있더라고요 직접 수정을 하는 것보다 이슈 제보를 하는게 낫겠다 싶어서 서버와 확장의 몇가지 버그를

By 빨간물약