로컬 PC에서 거대 언어 모델을 직접 실행할 수 있는 C++ 기반 추론 엔진이다. Qwen, Gemma, DeepSeek 등 다양한 모델을 원클릭 설치로 구동하고 localhost에서 OpenAI·Anthropic API 호환 엔드포인트를 제공한다. speculative decoding과 mixture-of-experts 지원으로 개인 환경에서 AI 앱 개발과 테스트 속도를 높일 수 있다.
따라 만들어 볼 것 · PolyStrata를 설치해 로컬 LLM 서버를 만들고, 간단한 CLI 도구나 VS Code 확장 프로그램에 코드 설명과 리뷰 기능을 붙여 개인용 AI 코딩 비서를 만든다.
Sentry의 에이전트 도구 모음으로 MCP 서버와 CLI를 제공합니다. AI 에이전트가 오류 모니터링과 디버깅 워크플로우를 자동화할 수 있게 돕습니다. 개발자 도구와 에이전트 연동 사례를 찾는 분에게 참고할 만합니다.
따라 만들어 볼 것 · Sentry 이벤트를 MCP 서버로 수집해 AI 에이전트가 요약하고 Jira 티켓 초안을 만드는 CLI 도구를 만들어 보세요.
여러 AI 코딩 에이전트의 세션 기록을 맥에서 한눈에 보고 검색하며 분석할 수 있는 로컬 우선 데스크톱 앱입니다. Codex, Claude Code, Cursor 등 다양한 에이전트의 대화 내역을 통합 관리하며 작업 연속성을 높여줍니다. AI 에이전트 사용이 늘어나는 지금, 개발자 생산성을 직접 높여주는 도구로 주목할 만합니다.
따라 만들어 볼 것 · 특정 AI 에이전트의 세션 로그를 수집하고 키워드로 검색하는 간단한 macOS 메뉴바 앱을 만들어 보세요. Swift로 로컬 파일 파싱과 검색 기능을 구현하면 됩니다.
팀 기반 AI 에이전트의 메모리, 자격 증명, 코드, 자동화를 클라우드에 저장하고 여러 에이전트 간에 이동할 수 있게 하는 도구입니다. MCP와 TypeScript를 기반으로 에이전트 이동성과 상태 관리를 해결하려는 점이 주목할 만합니다. AI 에이전트 개발 도구와 인프라에 관심이 있는 개발자에게 유용합니다.
따라 만들어 볼 것 · Kody의 에이전트 메모리 저장 방식을 참고해 특정 작업 기록과 API 키를 안전하게 보관하는 개인 코딩 비서 클라우드를 만듭니다. TypeScript로 에이전트 상태를 저장하고 불러오는 간단한 API 서버를 구현할 수 있습니다.
NornicDB는 Neo4j Bolt/Cypher와 Qdrant gRPC를 결합한 분산 그래프+벡터 데이터베이스입니다. 서브 밀리초 HNSW 검색, 그래프 순회, MVCC를 지원하며 MCP 서버와 관리형 임베딩, 리랭킹+LLM 기능을 제공합니다. AI 에이전트의 장기 기억과 Graph-RAG 구축에 바로 활용할 수 있어 지금 주목할 만합니다.
따라 만들어 볼 것 · MCP 서버 기능을 이용해 로컬 LLM과 연동하는 개인 메모 검색 도구를 만듭니다. 사용자 메모를 그래프와 벡터로 저장하고, 자연어 질문으로 관련 메모를 찾아 보여주는 CLI 도구를 구현할 수 있습니다.
코딩 에이전트 간에 공유할 수 있는 오픈소스 크로스 에이전트 기억 계층을 MCP로 구현한 프로젝트입니다. Claude Code, Codex, Cursor, Windsurf 등 주요 AI 코딩 도구와 호환되며 에이전트가 이전 대화와 코드 맥락을 기억하게 합니다. AI 에이전트의 맥락 손실 문제를 해결하려는 개발자에게 지금 주목할 만한 인프라 도구입니다.
따라 만들어 볼 것 · MCP 서버를 이용해 VS Code 확장과 터미널 CLI 간에 최근 수정 파일 목록을 동기화하는 메모 도구를 만듭니다. memorix의 기억 계층 구조를 참고해 두 도구가 같은 작업 컨텍스트를 공유하도록 구현합니다.
Atom Agent는 자체 호스팅 가능한 오픈소스 AI 에이전트 플랫폼입니다. Gmail, Slack, Notion, Google Calendar 등 외부 서비스와 연동해 일정, 업무, 재무 자동화를 구현할 수 있습니다. 에이전트 워크플로우를 직접 제어하고 싶은 개발자에게 자기 호스팅 자동화 기반을 제공한다는 점에서 주목할 만합니다.
따라 만들어 볼 것 · Gmail 수신 메일을 읽고 중요한 일정만 Google Calendar에 추가하는 자동화 봇을 만들어 보세요. Atom Agent의 에이전트 워크플로우를 이용해 메일 필터링과 캘린더 연동 로직을 구현할 수 있습니다.
로마(rome)는 재귀형 AI 에이전트를 위한 복합 에이전트 운영체제입니다. 그록 봇과 메이즈 뮤즈의 오픈소스 대안으로 클로드 코드, 코덱스 등 LLM 기반 도구와 연동해 워크플로우를 자동화합니다. 자체 호스팅 가능한 개인 AI 비서 인프라를 제공해 현재 AI 에이전트 생태계에서 주목할 만합니다.
따라 만들어 볼 것 · 이 저장소의 에이전트 OS 구조를 참고해 GitHub 이슈를 자동으로 분석하고 코드 수정 제안을 생성하는 CLI 도구를 만들어 볼 수 있습니다. TypeScript로 에이전트 루프와 작업 큐를 구현하면 실무 개발 생산성을 높이는 도구가 됩니다.
Pure CPU에서 284B 규모의 DeepSeek-V4-Flash와 30B MoE 모델을 64GB RAM으로 실행하는 추론 엔진이다. llama-cpp와 GGUF 양자화, 추측 디코딩을 활용해 GPU 없이도 256K 컨텍스트에서 코딩 에이전트 추론이 가능하다. Claude Code와 연동해 13ms 수준의 상태 복원이 가능해 로컬 AI 개발 환경 구축에 실질적 가치가 있다.
이 저장소의 CPU 추론 최적화 기법을 참고해, 64GB 이하 메모리 환경에서 7B 규모 언어 모델을 양자화하고 로컬 CLI 코드 리뷰 도구로 만드는 프로젝트입니다. llama-cpp 바인딩을 사용해 파일 변경 사항을 입력으로 받아 수정 제안을 출력하는 간단한 에이전트를 구현할 수 있습니다.
IncarnaMind는 로컬 파일 기반 RAG 데스크톱 앱으로, PDF와 문서에 대해 인용과 팩트체크가 가능한 AI 작성 도구입니다. Ollama를 통해 로컬 모델을 연동할 수 있어 데이터 주권이 중요한 환경에서 활용 가치가 높습니다. Word 내보내기와 회의록 기능까지 갖춰 실무 문서 작업 자동화 레퍼런스로 참고할 만합니다.
따라 만들어 볼 것 · IncarnaMind의 문서 인용 방식을 참고해, 개인 블로그 글과 PDF 자료를 연동하는 간단한 RAG 글쓰기 도구를 만들어 보세요. 특정 문장의 출처를 하이라이트 표시하고 마크다운으로 내보내는 기능을 추가하면 실전 글쓰기 보조 도구가 됩니다.