llama

Vim-Plugin für LLM-gestützte Code-/Textvervollständigung

Inferenz für Llama 2 in einer einzigen Datei aus purem 🔥

Leistungsstarke Inferenz-Bibliothek für ONNX-Dateien, geschrieben in C++. Sie kann Stable Diffusion XL 1.0 auf einem RPI Zero 2 (oder in 298 MB RAM) sowie Mistral 7B auf Desktops und Servern ausführen. ARM, x86, WASM, RISC-V werden unterstützt. Beschleunigt durch XNNPACK. Python-, C#- und JS(WASM)-Bindings verfügbar.

Llama und andere große Sprachmodelle (LLMs) offline unter iOS und macOS mit der GGML-Bibliothek nutzen.

Chinesisches Llama-3 LLM-Projekt der dritten Generation, entwickelt auf Basis von Meta Llama 3

Autoregressives Modell schlägt Diffusion: 🦙 Llama für skalierbare Bildgenerierung

Der führende Open-Source-KI-Copilot für JetBrains. Verbinde dich mit jedem Modell in jeder Umgebung und passe dein Programmiererlebnis beliebig an.

[ICML 2024] LLMCompiler: Ein LLM-Compiler für paralleles Funktionsaufrufen

Führen Sie LLMs in wenigen Minuten auf AMD Ryzen™ AI NPUs aus. Genau wie Ollama – aber speziell entwickelt und tiefgehend optimiert für AMD NPUs.

Synthese von Grafikprogrammen für wissenschaftliche Abbildungen und Skizzen mit TikZ.

Ein moderner und benutzerfreundlicher Client für Ollama

🚀🚀🚀 Eine Sammlung großartiger öffentlicher YOLO-Objekterkennungsprojekte und zugehöriger Objekterkennungsdatensätze.

Die React-Bibliothek für LLMs

Eine kuratierte Liste großartiger LLM- und AI-Agent-Skills, Ressourcen und Tools zur Anpassung von AI-Agent-Workflows – kompatibel mit Claude Code, Codex, Gemini CLI und Ihren eigenen AI Agents.

Erstellen Sie Charaktere in Unity mit LLMs!

:metal: TT-NN-Operatorenbibliothek und TT-Metalium Low-Level-Kernel-Programmiermodell.

Erschaffe deine eigene Geschichte. Benutzerfreundliche Software für LLM-Rollenspiele

Safe RLHF: Restriktive Werteausrichtung durch sicheres Reinforcement Learning aus menschlichem Feedback

`llm-chain` ist ein leistungsstarkes Rust-Crate zum Erstellen von Chains in Large Language Models, mit dem Sie Texte zusammenfassen und komplexe Aufgaben ausführen können.

Schnelles multimodales LLM auf mobilen Geräten

Lag-Llama: Auf dem Weg zu Basismodellen für die probabilistische Zeitreihenprognose

KoAlpaca: Ein Open-Source-Sprachmodell, das koreanische Instruktionen versteht (KoAlpaca: An open-source language model to understand Korean instructions)

Chatten Sie mit Ihren bevorzugten LLaMA-Modellen in einer nativen macOS-App

[ACL 2024 🔥] Video-ChatGPT ist ein Video-Konversationsmodell, das sinnvolle Gespräche über Videos generieren kann. Es kombiniert die Fähigkeiten von LLMs mit einem vortrainierten visuellen Encoder, der für die spatiotemporale Videorepräsentation angepasst ist. Wir stellen außerdem ein rigoroses 'Quantitative Evaluation Benchmarking' für videobasierte Konversationsmodelle vor.

VS Code-Erweiterung für LLM-gestützte Code-/Textvervollständigung

Führe lokale LLMs wie llama, deepseek-distill, kokoro und mehr direkt im Browser aus

Schnittstelle für OuteTTS-Modelle.

🍦 Speech-AI-Forge ist ein rund um TTS-Generierungsmodelle entwickeltes Projekt, das einen API-Server und ein Gradio-basiertes WebUI implementiert.

Berechnet Token/s und GPU-Speicherbedarf für beliebige LLMs. Unterstützt llama.cpp/ggml/bnb/QLoRA-Quantisierung.

Der einfachste Weg, Ollama in .NET zu verwenden