오픈소스 · C++
simplexai-labs/PolyStrata
Run large AI models on your own PC: Qwen3.8-Flash-Next on Strata's engine, and GLM 5.3 Flash, DeepSeek V4 Flash, LFM2.5, Qwen3.6, Ornith 1.5, Gemma 4, Tiel Coder and MiniCPM-V on a second engine written for PolyStrata. One-click install for Windows and Linux, OpenAI/Anthropic API on localhost.
- 별
- 981
- 포크
- 133
- 언어
- C++
- 관련도 점수
- 78
처음 보는 사람을 위한 설명
자기 컴퓨터에서 인공지능 모델을 직접 돌려볼 수 있는 프로그램이다. 복잡한 설정 없이 한 번 설치로 여러 AI 모델을 실행하고 내 컴퓨터에서 API처럼 쓸 수 있다.
왜 볼 만한가
로컬 PC에서 거대 언어 모델을 직접 실행할 수 있는 C++ 기반 추론 엔진이다. Qwen, Gemma, DeepSeek 등 다양한 모델을 원클릭 설치로 구동하고 localhost에서 OpenAI·Anthropic API 호환 엔드포인트를 제공한다. speculative decoding과 mixture-of-experts 지원으로 개인 환경에서 AI 앱 개발과 테스트 속도를 높일 수 있다.
AI가 저장소 설명을 읽고 쓴 글입니다.
조회 0