NVIDIA-NeMo

대형 언어 모델, 멀티모달, 음성 AI(자동 음성 인식 및 텍스트 음성 변환) 연구자와 개발자를 위해 구축된 확장 가능한 생성형 AI 프레임워크

NeMo Guardrails는 LLM 기반 대화형 시스템에 프로그래밍 가능한 가드레일을 쉽게 추가할 수 있는 오픈소스 툴킷입니다.

Switchyard는 OpenAI 및 Anthropic API 호환성을 유지하면서 LLM 애플리케이션이 모델과 제공업체 간에 트래픽을 라우팅할 수 있도록 지원하며, 유연한 모델 선택, 벤치마킹, 비용 및 성능 최적화를 가능하게 합니다.

🎨 NeMo Data Designer: 처음부터 또는 시드 데이터를 사용하여 고품질 합성 데이터 생성.

NVIDIA Nemotron을 위한 개발자 에셋 허브 — Nemotron 모델 구축을 위한 학습 레시피, 사용법 가이드북, 데이터셋, 전체 엔드투엔드 레퍼런스 예제를 제공하는 원스톱 리소스

효율적인 모델 강화 학습을 위한 확장 가능한 툴킷

NVIDIA Object Oriented Agents: AI 에이전트를 구축하는 Pythonic 방식.

LLM을 위한 확장 가능한 데이터 전처리 및 큐레이션 툴킷

환경을 활용한 모델 및 에이전트 평가 및 개선

대규모 언어 모델의 역량을 향상시키기 위한 프로젝트

연구를 위한 에이전트 우선(Agentic-first) RL 프레임워크 (9천 줄)

양방향 Hugging Face 변환 기능을 갖춘 Megatron 기반 모델 학습 라이브러리

Hugging Face를 즉시 지원하는 LLM/VLM용 Pytorch 분산 학습 라이브러리

대규모 환경의 모든 하네스에서 동작하는 에이전틱 강화학습