오픈소스 · Python
raullenchai/Rapid-MLX
Rapid-MLX is an open-source (Apache 2.0) OpenAI- and Anthropic-compatible LLM inference server for Apple Silicon, built on MLX, focused on reliable tool calling for coding agents. Up to 4× faster than Apple's MLX (mlx-lm) on the same weights.
- 별
- 4,127
- 포크
- 441
- 언어
- Python
- 관련도 점수
- 90
처음 보는 사람을 위한 설명
맥에서 로컬 LLM 서버를 돌릴 수 있는 도구입니다. 코딩 에이전트가 외부 도구를 안전하게 호출하도록 돕습니다.
왜 볼 만한가
Apple Silicon 전용 MLX 기반 LLM 추론 서버로, OpenAI와 Anthropic API 호환 인터페이스를 제공합니다. 코딩 에이전트를 위한 신뢰할 수 있는 도구 호출(tool calling)에 초점을 맞췄으며, mlx-lm보다 최대 4배 빠르다고 주장합니다. 로컬 AI 서버와 MCP 연동을 찾는 개발자에게 실용적인 대안이 될 수 있습니다.
AI가 저장소 설명을 읽고 쓴 글입니다.
조회 0