llm

WebAssembly-Binding für llama.cpp – Ermöglicht LLM-Inferenz im Browser

Eine Ruby-Implementierung des Model Context Protocol

Zwei-Wege-Echtzeit-Sprachübersetzung für zweisprachige Meetings – erkennt automatisch die gesprochene Sprache und übersetzt in beide Richtungen, in der Cloud oder vollständig offline auf dem Gerät. Desktop (Windows · macOS · Linux) + Browser-Erweiterung (Chrome · Edge) für Zoom, Meet, Teams & jede beliebige App.

Eine Open-Source-Alternative zu Lovable und Supabase in einem einzigen System!

Semi-strukturiertes Agenten-Framework. Workflows erstellen sich selbst, während Agenten entdecken, was getan werden muss, statt was Sie im Voraus vorhergesagt haben.

KI-gestützter Code-Assistent für Vim. OpenAI- und ChatGPT-Plugin für Vim und Neovim.

Inkdown ist ein WYSIWYG-Editor und ein LLM-Dialogtool, das vollständig mit der GitHub Flavored Markdown Spec kompatibel ist.

Eine minimale LLM-Chat-App, die vollständig im Browser läuft

Ein praktisches Labor zum Erstellen, Testen und Evaluieren von Apps mit dem Foundation Models-Framework von Apple.

Ming-Yi (MING): Ein großes medizinisches chinesisches Diagnose-KI-Modell

Trace-native CI/CD für KI-Agenten — Produktionsfehler werden zu Regressionstests, die den PR blockieren. Automatisch erkennen, clustern, in hermetische Fälle einfrieren und für 0 $ in CI wiederholen.

LLM-kompilierte Wissensdatenbanken für jeden AI-Agenten. Parallele Multi-Agenten-Forschung, hypothesengetriebene Untersuchung, Quelleneinbindung, Wiki-Kompilierung, Abfragen und Artefaktgenerierung.

Das erste Lesezeichen für Entwickler.

Eine super-minimale Version von pi in 600 Zeilen TypeScript, mit der Sie ganz einfach Ihren eigenen pi-agent von Grund auf erstellen können.

Verknüpfung von 3D-Mesh-Generierung mit Sprachmodellen

Agentic SOC Platform: Eine leistungsstarke, flexible, Open-Source- und agentenzentrierte automatisierte Sicherheitsbetriebsplattform (AI SOC)

A-MEM: Agentenbasierter Speicher für LLM-Agenten

Eine Sammlung von Werkzeugen, die Agenten mächtige Fähigkeiten verleihen.

Ein von LangChain angetriebener Shell-Befehlsgenerator und -Runner-CLI

Einfaches Go-Dienstprogramm zum Herunterladen von HuggingFace-Modellen und -Datensätzen

KI-gestützte Erstellung langer Romane im Zettelkasten-Stil, unterstützt strukturierte KI-Generierung basierend auf JSON Schema und Kontextreferenzen mit hoher Erweiterbarkeit.

Modelle und Agenten mithilfe von Umgebungen evaluieren und verbessern

Optimiert und vereinfacht das Prompt-Design für Entwickler und nicht-technische Anwender mit einem Low-Code-Ansatz.

Ein Desktop-MCP-Client, konzipiert als einheitliche Werkzeugintegration, der die KI-Einführung durch das Model Context Protocol (MCP) beschleunigt und eine herstellerübergreifende LLM-API-Orchestrierung ermöglicht.

Trainieren Sie spekulative Dekodierungsmodelle mühelos und portieren Sie sie reibungslos auf das SGLang-Serving.

[NeurIPS 2023] LLM-Pruner: Zum strukturellen Pruning von Large Language Models. Unterstützt Llama-3/3.1, Llama-2, LLaMA, BLOOM, Vicuna, Baichuan, TinyLlama usw.

FP16xINT4 LLM-Inferenz-Kernel, der bei mittleren Batchgrößen von 16-32 Token nahezu ideale 4-fache Geschwindigkeitssteigerungen erzielen kann.

Eine Open-Source-PyTorch-ähnliche Laufzeitumgebung für dynamische Multi-Agenten- und Multi-Sessions-Workflows.

NativeMind: Ihr vollständig privater, Open-Source-KI-Assistent auf dem Gerät

Vereinheitlichung des effizienten Fine-Tunings von RAG-Retrieval, einschließlich Embedding, ColBERT und ReRanker.