genai

🚀 Awesome System for Machine Learning ⚡️ Artigos sobre sistemas de IA e práticas da indústria. ⚡️ Sistemas para Machine Learning, LLM (Large Language Model), GenAI (Generative AI). 🍻 OSDI, NSDI, SIGCOMM, SoCC, MLSys, etc. 🗃️ Llama3, Mistral, etc. 🧑‍💻 Tutoriais em vídeo.

Otimização de proxy de inferência para LLMs

[ICLR2025 Spotlight] SVDQuant: Absorvendo outliers por componentes de baixo posto para modelos de difusão de 4 bits

Camada de memória universal para agentes de IA. Fornece armazenamento e recuperação de memória escalável, extensível e interoperável para otimizar o gerenciamento de estado de agentes de IA para sistemas autônomos de próxima geração.

Plugin do Nunchaku para o ComfyUI

Plataforma de código aberto para engenharia de IA: observabilidade de LLM nativa do OpenTelemetry, monitoramento de GPU, guardrails, avaliações, gerenciamento de prompts, Vault e Playground. Integra-se com mais de 50 provedores de LLM, bancos de dados vetoriais, frameworks de agentes e GPUs.

Recursos abrangentes sobre IA Generativa, incluindo um roteiro detalhado, projetos, casos de uso, preparação para entrevistas e preparação para codificação.

Construa, execute e dimensione agentes de IA como APIs e microsserviços

A plataforma de agentes Yuanjing Wanwu da China Unicom é uma plataforma de desenvolvimento de agentes de IA multi-inquilino de nível empresarial. Ela ajuda os usuários a criar aplicações como agentes inteligentes, fluxos de trabalho e RAG, além de suportar gerenciamento de modelos. A plataforma possui uma licença amigável para desenvolvedores.

Construa soluções de IA generativa confiáveis sem sobrecarga 🍕

GenAI Processors é uma biblioteca Python leve que permite o processamento de conteúdo eficiente e paralelo.

Plataforma RAG de código aberto: inclui citações, pesquisa profunda, suporte a mais de 22 formatos de arquivo, partições, servidor MCP e muito mais.

Vamos democratizar a geração de alta resolução! (CVPR 2024)

Witsy: assistente de IA para desktop / cliente MCP universal

Um framework de implantação de IA de alto desempenho e fácil de usar.

Um kit de ferramentas Java de código aberto e focado em código para construir, avaliar e implantar agentes de IA sofisticados com flexibilidade e controle.

LLPhant - Um framework abrangente de IA generativa para PHP usando OpenAI GPT 4. Inspirado no Langchain.

Este repositório fornece uma solução avançada de Retrieval-Augmented Generation (RAG) para perguntas e respostas complexas. Utiliza algoritmos baseados em grafos sofisticados para lidar com as tarefas.

Backend multimodal unificado para aplicações de dados de IA

Um kit de ferramentas para criar configurações de RAG (Retrieval Augmented Generation) ideais e prontas para produção para seus dados.

Crie agentes de IA para o seu PC.

Um projeto open-source para desenvolvedores Windows aprenderem a adicionar IA com modelos locais e APIs em aplicativos Windows.

Avalie LLMs lutando em Street Fighter 3! A nova maneira de avaliar a qualidade de um LLM.

Uma solução modular e abrangente para implantar um chatbot baseado em Multi-LLM e Multi-RAG (Amazon Bedrock, Anthropic, HuggingFace, OpenAI, Meta, AI21, Cohere, Mistral) usando AWS CDK na AWS

Um kit de ferramentas Typescript open-source e code-first para construir, avaliar e implantar agentes de IA sofisticados com flexibilidade e controle.

Jlama é um motor de inferência LLM moderno para Java.

Neo4j GraphRAG para Python

Framework de compressão de redes neurais para inferência aprimorada com OpenVINO™

Um conjunto de ferramentas que confere capacidades poderosas a agentes.

Notebooks e aplicativos de exemplo para aplicações de Busca e IA com Elasticsearch