genai

🚀 Awesome System for Machine Learning ⚡️ KI-System-Papers und Praxis in der Industrie. ⚡️ Systeme für Machine Learning, LLM (Large Language Model), GenAI (Generative AI). 🍻 OSDI, NSDI, SIGCOMM, SoCC, MLSys usw. 🗃️ Llama3, Mistral usw. 🧑‍💻 Video-Tutorials.

Optimierung des Inferenz-Proxys für LLMs

[ICLR2025 Spotlight] SVDQuant: Einbeziehung von Outliers durch Low-Rank-Komponenten für 4-Bit-Diffusion-Modelle

Universelle Speicherschicht für KI-Agenten. Sie bietet skalierbare, erweiterbare und interoperable Speicher- und Abruffunktionen, um die Verwaltung des Status von KI-Agenten für autonome Systeme der nächsten Generation zu optimieren.

ComfyUI-Plugin für Nunchaku

Open-Source-Plattform für AI Engineering: OpenTelemetry-native LLM-Beobachtbarkeit, GPU-Überwachung, Schutzvorrichtungen, Evaluierungen, Prompt-Management, Vault, Playground. Integriert sich mit über 50 LLM-Anbietern, VectorDBs, Agent-Frameworks und GPUs.

Umfassende Ressourcen zu Generative AI, einschließlich einer detaillierten Roadmap, Projekten, Anwendungsfällen, Interviewvorbereitung und Programmiervorbereitung.

KI-Agenten wie APIs und Microservices erstellen, ausführen und skalieren

Die Yuanjing Wanwu Agent Platform von China Unicom ist eine mandantenfähige KI-Agenten-Entwicklungsplattform auf Unternehmensebene. Sie unterstützt Benutzer beim Erstellen von Anwendungen wie intelligenten Agenten, Workflows und RAG sowie bei der Modellverwaltung. Die Plattform bietet eine entwicklerfreundliche Lizenz und wir laden alle Entwickler ein, auf ihr aufzubauen.

Zuverlässige Gen-AI-Lösungen ohne Mehraufwand erstellen 🍕

GenAI Processors ist eine lightweight Python-Bibliothek, die eine effiziente, parallele Inhaltsverarbeitung ermöglicht.

Die Open-Source-RAG-Plattform: integrierte Zitate, Deep Research, über 22 Dateiformate, Partitionen, MCP-Server und mehr.

Lasst uns die hochauflösende Generierung demokratisieren! (CVPR 2024)

Witsy: Desktop-KI-Assistent / universaler MCP-Client

Ein einfach zu bedienendes und leistungsstarkes KI-Bereitstellungsframework

Ein Open-Source- und Code-First-Java-Toolkit zum Erstellen, Evaluieren und Bereitstellen komplexer KI-Agenten mit Flexibilität und Kontrolle.

LLPhant – Ein umfassendes PHP Generative AI Framework mit OpenAI GPT-4. Inspiriert von Langchain

Dieses Repository bietet eine fortgeschrittene Retrieval-Augmented-Generation-Lösung (RAG) für komplexe Frage-Antwort-Szenarien. Es nutzt ausgeklügelte graphenbasierte Algorithmen zur Bewältigung der Aufgaben.

Einheitliches multimodales Backend für KI-Daten-Apps

Ein Toolkit zum Erstellen einer optimalen, produktionsbereiten Retrieval-Augmented-Generation-Einrichtung (RAG) für Ihre Daten

Erstelle KI-Agenten für deinen PC.

Ein Open-Source-Projekt für Windows-Entwickler, um zu lernen, wie man Windows-Apps mit lokalen Modellen und APIs um KI erweitert.

Benchmarken von LLMs durch Kämpfe in Street Fighter 3! Die neue Art, die Qualität eines LLMs zu bewerten

Eine modulare und umfassende Lösung zur Bereitstellung eines auf Multi-LLM und Multi-RAG basierenden Chatbots (Amazon Bedrock, Anthropic, HuggingFace, OpenAI, Meta, AI21, Cohere, Mistral) mit AWS CDK auf AWS

Ein Open-Source-Code-First-TypeScript-Toolkit zum Erstellen, Evaluieren und Bereitstellen komplexer KI-Agenten mit Flexibilität und Kontrolle.

Jlama ist eine moderne LLM-Inferenz-Engine für Java

Neo4j GraphRAG für Python

Neuronales Netzwerk-Komprimierungsframework für verbesserte OpenVINO™-Inferenz

Eine Sammlung von Werkzeugen, die Agenten mächtige Fähigkeiten verleihen.

Notizbücher & Beispiel-Apps für Such- und KI-Anwendungen mit Elasticsearch