Search

Rapid-MLX - Apple Silicon 전용 초고속 로컬 AI 엔진

URL
날짜
2026/05/12
생성 일시
2026/05/12 01:20
태그
GeekNews
애플 실리콘 맥에서 로컬 AI 모델을 구동하는 추론 엔진으로, Apple의 MLX 프레임워크 기반 네이티브 Metal 컴퓨트 커널 활용 Ollama 대비 최대 4.2배 빠른 추론 속도 - Phi-4 Mini 14B 기준 180 tok/s(Ollama 56 tok/s 대비 3.2배), Qwen3.5-9B ... ||