llm

Eine Sammlung fantastischer Werkzeuge, Dokumente und Projekte zur LLM-Sicherheit

Minimaler KI-Coding-Agent (~1.000 Zeilen Python), inspiriert von Claude Code. Funktioniert mit jedem LLM. Entspricht NanoGPT für Coding-Agenten. Ehemals NanoCoder.

Fortgeschrittenes, LLM-gestütztes Brute-Force-Tool, das KI-Intelligenz mit automatisierten Login-Angriffen kombiniert

Eine Hochleistungs-Inferenz-Engine für KI-Modelle

LLM(😽)

[Zotero AI Butler] Ruft große Sprachmodelle auf, um Papiere in der Bibliotheksdatenbank automatisch gründlich zu lesen und als Zotero-Notizen zusammenzufassen. Unterstützt gängige LLM-Plattformen!

Open-Source-LLM/VLM-Load-Balancer und -Serving-Plattform für das Self-Hosting von LLMs (und VLMs) im großen Stil 🏓🦙 Alternative zu Projekten wie llm-d, Docker Model Runner etc., aber mit weniger beweglichen Teilen und einfachen Deployments rund um das ggml-Ökosystem. Läuft auf CPU und GPU.

Optimierte agentische und LLM-Massenverarbeitung Ihrer Daten

Trench — Open-Source-Analyse-Infrastruktur. Ein einzelnes, produktionsbereites Docker-Image auf Basis von ClickHouse, Kafka und Node.js zur Event-Verfolgung. Erstellen Sie ganz einfach Produktanalytik-Dashboards, LLM-RAGs, Observability-Plattformen oder andere Analyseprodukte.

:metal: TT-NN-Operatorenbibliothek und TT-Metalium Low-Level-Kernel-Programmiermodell.

Der Open-Source React.js Autonomous LLM Agent

„Building Large Language Model Applications: Application Development and Architecture Design“ – Ein Open-Source-E-Book über reale LLM-Anwendungen, das die Grundlagen und Anwendungen von großen Sprachmodellen sowie den Aufbau eigener Modelle vorstellt. Es umfasst das Schreiben, Entwickeln und Verwalten von Prompts, erkundet das Potenzial der besten LLMs und behandelt Muster und Architekturdesign für die LLM-Anwendungsentwicklung.

Waku Waku! Waku Agent ist ein lokal orientiertes KI-Agenten-Framework, das Ihnen wirklich gehört, einschließlich Schleife, Speicher und Evaluierung – alles in Code, der auch bei Wachstum übersichtlich bleibt.

Agent-R1: Training leistungsstarker LLM-Agenten mit End-to-End-Reinforcement-Learning

Erschaffe deine eigene Geschichte. Benutzerfreundliche Software für LLM-Rollenspiele

Der Coding-Agent, der auf dich, dein Modell, deine Maschine und deine Regeln reagiert.

Ein schnelles und leichtgewichtiges Framework zum einfachen Erstellen dezentraler Agents.

Open-Source-Multi-Agenten-KI-Desktop-Client — baue und steuere dein KI-Agenten-Team per Konversation. Ein leitendes LLM entsendet Unteragenten parallel oder in Serie; Agenten entwickeln sich durch Reflexion und Skill-Kristallisation selbst weiter. Local-first, BYO LLM-Schlüssel (Claude · OpenAI · Gemini · DeepSeek · Kimi · GLM · Qwen). macOS / Windows / Linux.

Tool zum Generieren hochwertiger synthetischer Datensätze

Eine All-in-One-KI-Toolbox für Prompt-, Agent- und Skill-Management. Unterstützt Prompt-Wiederverwendung, Ein-Klick-Skill-Verteilung, Agent-Asset-Verwaltung sowie Cloud-Synchronisation, Backup und Versionskontrolle.

Eine Sammlung von Papieren zu KI-Agenten (wird alle zwei Wochen aktualisiert)

Playwright für Windows-Computer-Nutzung

🔥 Echtzeit-NVIDIA-GPU-Dashboard

ROSA 🤖 ist ein KI-Agent zur Interaktion mit ROS1- und ROS2-basierten Robotersystemen über natürliche Sprache. ROSA hilft Robotik-Entwicklern bei der Inspektion, Diagnose, dem Verständnis und der Steuerung von Robotern.

Dieses Repository bietet eine fortgeschrittene Retrieval-Augmented-Generation-Lösung (RAG) für komplexe Frage-Antwort-Szenarien. Es nutzt ausgeklügelte graphenbasierte Algorithmen zur Bewältigung der Aufgaben.

Echtzeit-Visualisierung der Claude Code Agenten-Orchestrierung – sehen Sie Ihren Agenten beim Denken, Verzweigen und Koordinieren zu.

Modellkomprimierungs-Toolkit für verbesserte Benutzerfreundlichkeit, Vollständigkeit und Effizienz.

Einheitliches multimodales Backend für KI-Daten-Apps

Eine kuratierte Liste fantastischer Ressourcen, Tools und anderer nützlicher Dinge für das LLM Prompt Engineering.