llm

적응형 로드 밸런서, 클러스터 모드, 가드레일, 1000개 이상의 모델 지원, 5k RPS에서 100 µs 미만의 오버헤드를 갖춘 가장 빠른 엔터프라이즈 AI 게이트웨이(LiteLLM보다 50배 빠름)

AI를 소유하세요. AI 에이전트를 위한 네이티브 macOS 환경 – 모든 모델, 영구 메모리, 자율 실행, 암호화 ID. Swift로 제작됨. 완전한 오프라인 지원. 오픈 소스.

PaddlePaddle 기반의 산업용 개발 툴킷인 ERNIE 4.5 및 ERNIEKit 공식 저장소

빠르고 유연한 LLM 추론

소스 트리, 프롬프트 템플릿, 토큰 카운팅을 사용하여 코드베이스를 단일 LLM 프롬프트로 변환하는 CLI 도구.

Claude, GPT, O Series, Grok, Deepseek, Gemini 및 300개 이상의 모델을 지원하는 AI 페어 프로그래머

🔥 AI 에이전트 및 앱을 위한 오픈소스 브라우저 API. Steel Browser는 인프라 걱정 없이 웹을 자동화할 수 있는 완전 통합형 브라우저 샌드박스입니다.

Android에서 가장 강력하고 오래 발전해 온 AI Agent 및 AI 챗 소프트웨어

LLM 입력에 최적화된 손실 없는 파일 파서 🧠 PDF, Docx, PPTx를 LLM에 이상적인 형식으로 파싱합니다.

OpenTelemetry 기반의 GenAI 및 LLM 애플리케이션을 위한 오픈소스 가시성(observability) 도구입니다.

OpenCompass는 100개 이상의 데이터셋을 바탕으로 Llama3, Mistral, InternLM2, GPT-4, LLaMa2, Qwen, GLM, Claude 등 다양한 모델을 지원하는 LLM 평가 플랫폼입니다.

AI 기반 차세대 오픈소스 실시간 관측 가능성 시스템

동적이고 유연한 AI 오케스트레이션. AI 워크플로우를 구축하면서 데이터, 모델, 연산 능력을 조율하세요.

대규모 언어 모델에 가이드라인(가드레일) 추가

사전 학습된 대규모 언어 모델 병합용 도구

영구 무료 LLM API (API 키) 목록

InternLM 시리즈 공식 릴리스 (InternLM, InternLM2, InternLM2.5, InternLM3).

누구나 이해할 수 있는 LLM 지식 공유, LLMs 상/하반기 공채 면접 전 필독서, 면접관과 자신 있게 대화할 수 있도록 돕습니다.

LLM 기반 비정조화 데이터 추출 - API 배포 및 ETL 파이프라인 워크플로우를 위해 구축됨

AutoClip: AI 기반 비디오 클리핑 및 하이라이트 생성 도구

단일 CPU와 8.24 GB RAM에서 2조 7,800억 개의 파라미터를 가진 Kimi K3 추론 실행. 포터블 C99: BLAS, 프레임워크, GPU 없음.

GLM-5: 바이브 코딩에서 에이전틱 엔지니어링으로

에이전트 하네스를 구축하고 엔드투엔드로 제어합니다. Python 및 TypeScript용 프로덕션 AI 에이전트 오픈소스 SDK - 모든 모델, 모든 클라우드.

중국어 LLaMA-2 & Alpaca-2 대형 언어 모델 2기 프로젝트 + 64K 초장문 컨텍스트 모델

상태 저장(stateful) 에이전트 구축을 위한 메모리 라이브러리

TalkToFigma: AI 에이전트(Cursor, Claude Code, Codex)와 Figma 간의 MCP 통합으로, 에이전틱 AI가 Figma와 통신하여 디자인을 읽고 프로그래밍 방식으로 수정할 수 있습니다.

파운데이션 모델을 위한, 그리고 모델과 함께하는 데이터 처리! 🍎 🍋 🌽 ➡️ ➡️🍸 🍹 🍷

자동 업무 일지 및 시간 추적기. 화면 기록을 실제 수행한 작업의 타임라인으로 프라이버시를 지키며 변환합니다. 오픈소스 및 로컬 퍼스트 기반.

DeepAudit: 누구나 가질 수 있는 AI 해커 팀, 취약점 발굴을 손쉽게. 국내 최초 오픈소스 코드 취약점 발굴 멀티 에이전트 시스템. 초보자도 원클릭 배포 및 실행, 자율 협업 감사 + 자동화된 샌드박스 PoC 검증. Ollama 자체 배포 지원, 원클릭 보고서 생성. 중계 서버 지원. 보안을 더 이상 비싸지 않게, 감사를 더 이상 복잡하지 않게.

🔍 LLM 기반 웹 검색 엔진 멀티 에이전트 프레임워크 (Perplexity.ai Pro 및 SearchGPT 유사)