Search

1비트 LLM을 위한 추론 프레임워크 BitNet

URL
날짜
2026/03/13
생성 일시
2026/03/12 17:20
태그
GeekNews
bitnet.cpp는 1비트 대형언어모델(LLM)의 공식 추론 프레임워크로, CPU와 GPU에서 빠르고 손실 없는 추론을 지원 ARM CPU에서 1.37~5.07배 속도 향상과 55.4~70% 에너지 절감, x86 CPU에서 2.37~6.17... ||