llm

모든 LLM의 토큰/초 및 GPU 메모리 요구량을 계산합니다. llama.cpp/ggml/bnb/QLoRA 양자화 지원

.NET에서 Ollama를 사용하는 가장 쉬운 방법

순수 Golang으로 구현된 llama.cpp와 같은 라이브러리인 llama.go입니다!

AWS CDK를 사용하여 AWS에서 Multi-LLM 및 Multi-RAG 기반 챗봇(Amazon Bedrock, Anthropic, HuggingFace, OpenAI, Meta, AI21, Cohere, Mistral)을 배포하기 위한 모듈식 종합 솔루션

Apple Silicon Mac에서 LLM 파인튜닝. MLX 네이티브 기반 SFT, DPO, GRPO, Vision, TTS, STT, Embedding, OCR 파인튜닝 지원. Unsloth 호환 API.

유니버설 AI 컨텍스트 생성기. Claude Code, Cursor, Copilot, Codex 등에서 대화당 수천 개의 토큰을 절약합니다.

LLM을 구조화된 NLP 파이프라인에 통합

💃 코드 속 지능과 함께 춤추세요. Minuet은 OpenAI, Gemini, Claude, Ollama, Llama.cpp, Codestral 등을 포함한 인기 LLM의 실시간 코드 자동 완성을 제공합니다.

Vercel AI SDK 호환성을 제공하는 React Native 온디바이스 LLM 실행

Pi 코딩 에이전트를 위한 토큰 효율적인 MCP 어댑터

E2B 사용 예시

다양한 분야의 최고 수준 모의 해킹 도구 및 생산성 유틸리티 선별 모음입니다. 해킹 툴킷을 탐색하고, 기여하고, 향상해 보세요!

대규모 언어 모델 애플리케이션을 위한 OWASP Top 10 (GenAI Security Project의 일환)

강력한 대화형 AI JavaScript 라이브러리 💬 — LangChain / HuggingFace / Vercel AI 등을 지원하는 모든 LLM용 UI 🧡 React, Next.js 및 바닐라 JavaScript 지원 ⭐️

유연성과 제어력을 바탕으로 고도화된 AI 에이전트를 구축, 평가 및 배포하기 위한 오픈소스 코드 기반 TypeScript 툴킷

비즈니스 운영에서 생성형 AI를 안전하게 활용하기 위한 비즈니스 유스케이스 기반 애플리케이션 구현

소프트웨어 취약점 탐지를 위한 Large Language Models 연구에 대한 커뮤니티의 가장 포괄적이고 지속적으로 업데이트되는 색인 — 함수 수준, 리포지토리 수준, 에이전트, 스마트 계약 탐지를 아우르는 논문과 데이터셋, 벤치마크, 설문 조사를 제공합니다.

MySQL 데이터베이스와 안전하게 상호작용할 수 있는 Model Context Protocol (MCP) 서버

자기회귀 모델을 위한 통합 KV 캐시 압축 방법

AI 코딩 에이전트를 위한 유틸리티 CLI

CLI를 위한 LLM

Parallax는 어디서나 자신만의 AI 클러스터를 구축할 수 있게 해주는 분산 모델 서빙 프레임워크입니다.

자율형 에이전트(LLM) 연구 논문. 매일 업데이트됨.

기본적으로 모든 실행의 내구성이 보장되고 재생 및 재개가 가능한 에이전트 프레임워크.

NeuroSploit은 공격적 보안 작업의 다양한 측면을 자동화하고 강화하도록 설계된 고급 AI 기반 모의 해킹 프레임워크입니다.

컴파일러 기술로 향상되어 100% 작동하는 코드를 생성하는 TS 백엔드 서버의 AI Vibe 코딩 Agent

📎 Clippy, 이제 AI 기능 탑재

웹챗을 API로 변환

E2B Cloud를 구동하는 인프라.

LLM을 사용하여 웹사이트를 스크래핑하기 위한 경량 라이브러리