genai

🚀 멋진 머신러닝 시스템 ⚡️ AI 시스템 논문 및 업계 프랙티스. ⚡️ 머신러닝 시스템, LLM (대형 언어 모델), GenAI (생성형 AI). 🍻 OSDI, NSDI, SIGCOMM, SoCC, MLSys 등. 🗃️ Llama3, Mistral 등. 🧑‍💻 동영상 튜토리얼.

LLM을 위한 추론 프록시 최적화

[ICLR2025 Spotlight] SVDQuant: 4비트 Diffusion 모델을 위한 저랭크 컴포넌트를 통한 이상치 흡수

AI Agent를 위한 범용 메모리 레이어. 차세대 자율 시스템의 AI agent 상태 관리를 간소화하기 위해 확장 가능하고 상호 운용 가능한 메모리 스토리지와 검색 기능을 제공합니다.

Nunchaku의 ComfyUI 플러그인

AI 엔지니어링을 위한 오픈소스 플랫폼: OpenTelemetry 기반 LLM 모니터링, GPU 모니터링, 가드레일, 평가, 프롬프트 관리, 볼트, 플레이그라운드. 🚀💻 50개 이상의 LLM 공급자, VectorDB, 에이전트 프레임워크 및 GPU와 통합됩니다.

상세한 로드맵, 프로젝트, 유스케이스, 면접 준비, 코딩 준비를 포함한 생성형 AI에 대한 종합 리소스

API 및 마이크로서비스처럼 AI 에이전트를 빌드, 실행 및 확장

중국유통(China Unicom)의 Yuanjing Wanwu Agent Platform은 엔터프라이즈급 멀티 텐던트 AI 에이전트 개발 플랫폼입니다. 사용자가 지능형 에이전트, 워크플로우, RAG 등의 애플리케이션을 구축할 수 있도록 돕고 모델 관리도 지원합니다. 개발자 친화적인 라이선스를 제공하며 모든 개발자의 플랫폼 구축 참여를 환영합니다.

오버헤드 없이 신뢰할 수 있는 Gen AI 솔루션 구축 🍕

GenAI Processors는 효율적인 병렬 콘텐츠 처리를 지원하는 경량 Python 라이브러리입니다.

오픈 소스 RAG 플랫폼: 인라인 출처 표기, 심층 리서치, 22개 이상의 파일 형식, 파티션, MCP 서버 등을 지원합니다.

고해상도 생성 모델의 대중화를 이끕니다! (CVPR 2024)

Witsy: 데스크톱 AI 어시스턴트 / 유니버셜 MCP 클라이언트

사용하기 쉽고 고성능인 AI 배포 프레임워크

유연성과 제어권을 바탕으로 고도화된 AI 에이전트를 구축, 평가, 배포하기 위한 오픈소스 코드 기반 Java 툴킷

LLPhant - OpenAI GPT-4를 사용하는 종합적인 PHP Generative AI Framework. Langchain에서 영감을 받음

이 저장소는 복잡한 질의응답을 위한 고급 RAG(Retrieval-Augmented Generation) 솔루션을 제공합니다. 작업을 처리하기 위해 정교한 그래프 기반 알고리즘을 사용합니다.

AI 데이터 앱을 위한 통합 멀티모달 백엔드

데이터에 최적의 프로덕션 준비 Retrieval Augmented Generation(RAG) 설정을 생성하기 위한 툴킷.

PC용 AI 에이전트 빌드

Windows 개발자가 로컬 모델 및 API를 사용하여 Windows 앱에 AI를 추가하는 방법을 배우기 위한 오픈소스 프로젝트

Street Fighter 3 대전을 통한 LLM 벤치마크! LLM의 품질을 평가하는 새로운 방식

AWS CDK를 사용하여 AWS에서 Multi-LLM 및 Multi-RAG 기반 챗봇(Amazon Bedrock, Anthropic, HuggingFace, OpenAI, Meta, AI21, Cohere, Mistral)을 배포하기 위한 모듈식 종합 솔루션

유연성과 제어력을 바탕으로 고도화된 AI 에이전트를 구축, 평가 및 배포하기 위한 오픈소스 코드 기반 TypeScript 툴킷

Jlama는 Java용 최신 LLM 추론 엔진입니다.

Python용 Neo4j GraphRAG

OpenVINO™ 추론 성능 향상을 위한 신경망 압축 프레임워크

에이전트에게 강력한 기능을 부여하는 도구 모음입니다.

Elasticsearch를 활용한 검색 및 AI 애플리케이션용 노트북 및 예제 앱