Search
moon
sun

Apple ML Research: Mac Studio에서 MLX로 Muse Spark Open 실행하기

URL
날짜
2026/10/17
생성 일시
2026/10/16 19:21
태그
816B 파라미터의 Muse Spark Open을 M5 Ultra Mac Studio 4대에서 실행해, 8,192토큰 문맥 기준 초당 36.73토큰을 생성함 MLX와 Thunderbolt RDMA를 결합해 여러 Mac에 모델을 분산하며, 레이어를 나누는 파이프라인 병렬화와 각 레이어의 계산을 나누는 텐서 병렬...