llm

🚀 Native PyTorch-Bibliothek für das verteilte Training von LLMs/VLMs mit integrierter Hugging-Face-Unterstützung

Eine Liste von Open-Source-KI-Projekten, mit denen sich einfach Einnahmen erzielen lassen.

Local-first-Datenschutz: Anonymisiere deine Dokumente, bevor du sie mit LLMs teilst.

Deep-Research-Agent, der Ihnen hilft, die besten GitHub Repositories zu finden 🕵️!

Eine hochoptimierte LLM-Inferenz-Beschleunigungs-Engine für Llama und dessen Varianten.

Eine produktionsbereite Vorlage, um Ihre Generative-KI-Projekte mit Fokus auf Struktur und Skalierbarkeit zu starten.

PanWatch – Selbstgehosteter KI-Börsenüberwachungs-Assistent, integriert TradingAgents Multi-Agenten-Investitionsentscheidungen | Echtzeitüberwachung von A-Aktien/Hongkong-Aktien/US-Aktien, Bestandsverwaltung, intelligente Analyse, Omnichannel-Push

OpenEverest ist eine Open-Source-Plattform für die automatisierte Bereitstellung und Verwaltung von Datenbanken. Sie unterstützt verschiedene Datenbanktechnologien und kann auf jeder Kubernetes-Infrastruktur, in der Cloud oder lokal gehostet werden.

Open-Source-Plattform für tägliche arXiv/OpenReview-Forschungsarbeiten und KI-gestütztes Lesen, mit Unterstützung für automatische GitHub Actions-Updates, GitHub Pages-Bereitstellung und Fragen und Antworten zu Papers.

RAG Time: Eine 5-wöchige Lernreise zur Beherrschung von RAG

Ein Hochleistungs-Framework für die Bereitstellung von ML-Modellen mit dynamischem Batching und CPU/GPU-Pipelines zur vollständigen Ausnutzung Ihrer Rechenmaschine

[Neuer Agenten-Modus] GPT-Assistent für Android für alle Szenarien, aktivierbar über Lautstärketasten für Sprachinteraktion. Unterstützt Internetzugriff, Fotografieren, Vorlagen, Parsen von PDF- und Office-Dokumenten, Agenten-Modus usw.

🚀 Codex Mobile überall ausführen: Linux, Windows oder Termux auf Android 🚀

LAYRA – eine unternehmensbereite Out-of-the-Box-Lösung – erschließt intelligente Systeme der nächsten Niveaus, angetrieben durch visuelle RAG und grenzenlose visuelle Multi-Step-Agent-Workflow-Orchestrierung.

Autonome KI-Penetrationstest-Engine für kontinuierliche offensive Sicherheit über Web, Cloud, Identität, CI/CD, IaC, Datenbanken, Active Directory, Kubernetes und IoT-Firmware. Agentenbasiertes Schließen sowie echte Exploit-Ausführung liefern beweisbasierte Schwachstellen. Datenschutz-Gateway: Die LLM sieht niemals Ihre echten IPs, Hosts oder Zugangsdaten, nichts verlässt Ihren Perimeter.

Open-Deep-Learning-Compiler-Stack für Kendryte-AI-Beschleuniger ✨

Token-effizienter, kompletter Python-Neubau von Claude Code. KI-Coding-Agent in 310K Zeilen Python-Code. Bis zu 200-fache Kostenersparnis!

🔬🦞 Ein sich selbst weiterentwickelnder KI-Forschungskollege für Wissenschaftler. 285 Fähigkeiten, null Halluzinationen, permanenter Speicher.

Stellt Gemini CLI-Endpunkte als OpenAI API mit Cloudflare Workers bereit

Ein sprechendes LLM, das auf deinem eigenen Computer ohne Internetverbindung läuft.

Eine lokale Sandbox für Ihre KI-Agenten

🤖 Eine PyTorch-Bibliothek mit kuratierten Transformer-Modellen und deren kombinierbaren Komponenten

LLM-Notizen einschließlich Modellinferenz, Transformer-Modellstruktur und Quellcodeanalyse von LLM-Frameworks.

AgentChat ist eine LLM-basierte Agenten-Kommunikationsplattform, die Standardagenten enthält und benutzerdefinierte Agenten unterstützt. Durch mehrstufige Dialoge und Aufgabenkollaboration können Agenten komplexe Aufgaben verstehen und bei deren Erledigung helfen. Das Projekt integriert Technologien wie LangChain, Function Call, das MCP-Protokoll, RAG, Memory, HITL, Skill, Milvus und ElasticSearch, um eine effiziente Wissenssuche und Tool-Nutzung zu ermöglichen, und verwendet FastAPI für ein leistungsstarkes Backend.

KI-Workflow-Automatisierungs-Plugin für intelligente Code-Generierung mit Claude/Codex

The ripgrep of AI context: a zero-dependency C++23 CLI + MCP server giving coding agents a ranked, deterministic map of any repo, blast radius, tests-to-run and quality deltas. Signatures at 80% fewer bytes than bodies; ~5% of a grep-and-read pass's tokens.

Code2Prompt ist ein leistungsstarkes Befehlszeilentool, das die Bereitstellung von Kontext für Large Language Models (LLMs) vereinfacht, indem es eine umfassende Markdown-Datei mit dem Inhalt Ihrer Codebasis generiert.

Ein 10-wöchiger, 30 Minuten pro Tag umfassender Fahrplan für LLM-Inferenz-Serving und -Optimierung. vLLM, SGLang, Quantisierung, spekulatives Decoding, Benchmarking.

[ICLR 2025] Alignment Data Synthesis from Scratch by Prompting Aligned LLMs with Nothing. Ihre effiziente und hochwertige Pipeline zur Generierung synthetischer Daten!

📦️ Ein schneller, sicherer MCP-Server, der seine Funktionen durch WebAssembly-Plugins erweitert.