llama

llama.go ist wie llama.cpp in purem Golang!

🦙 Integration von LLMs in strukturierte NLP-Pipelines

Ein Open-Source-Framework für wissensbasierte Large Language Models.

Parallax ist ein verteiltes Model-Serving-Framework, mit dem Sie überall Ihr eigenes KI-Cluster aufbauen können

📎 Clippy, jetzt mit etwas KI

Eine elegante PyTorch-Implementierung von Transformers.

RTP-LLM: Alibabas leistungsstarke LLM-Inferenz-Engine für vielfältige Anwendungen.

Jlama ist eine moderne LLM-Inferenz-Engine für Java

Der einfachste Weg, Alpaca (und andere LLaMA-basierte lokale LLMs) auf dem eigenen Rechner auszuführen

Helfen Sie Ihren LLMs online

Hexabot v3 ist eine KI-Workflow-Automatisierungsplattform, die Workflows, Aktionen, Agents und Chat-Kanäle in einer Laufzeitumgebung vereint.

WebAssembly-Binding für llama.cpp – Ermöglicht LLM-Inferenz im Browser

Eine Sammlung von Werkzeugen, die Agenten mächtige Fähigkeiten verleihen.

Eine Sammlung von Open-Source-Datensätzen zum Training von Instruction-Following-LLMs (ChatGPT, LLaMA, Alpaca)

Eine kuratierte Liste von NLP-Ressourcen mit Schwerpunkt auf Transformer-Netzwerken, Attention-Mechanismen, GPT, BERT, ChatGPT, LLMs und Transfer Learning.

[NeurIPS 2023] LLM-Pruner: Zum strukturellen Pruning von Large Language Models. Unterstützt Llama-3/3.1, Llama-2, LLaMA, BLOOM, Vicuna, Baichuan, TinyLlama usw.

Vergleiche die Leistung verschiedener LLMs, die lokal auf Consumer-Hardware ausgeführt werden können. Selbst ausführen mit Colab WebUI.

Chatte mit KI-Sprachmodellen, die nativ in deinem Browser laufen. Genieße private, serverfreie und nahtlose KI-Gespräche.

[ECCV 2024 Best Paper Candidate & TPAMI 2025] PointLLM: Befähigung großer Sprachmodelle zum Verständnis von Punktwolken

TypeScript-KI-Funktionsaufruf-Framework, erweitert durch Compiler-Fähigkeiten

Ein LLM-gestützter Repository-Agent, der Entwickler und Teams dabei unterstützt, schnell Dokumentationen zu erstellen und Repositories zu verstehen.

React-Native-Binding für llama.cpp

Ein Full-Stack-Algorithmen-Tutorial von NLP bis LLM, Online-Leseadresse: https://datawhalechina.github.io/base-llm/

⛷️ LLaMA-MoE: Erstellung von Mixture-of-Experts aus LLaMA mit kontinuierlichem Vortraining (EMNLP 2024)

Ein Framework für kleine, große multimodale Modelle

Cotabby ist eine lokale KI-Autovervollständigung für Ihren gesamten Mac. Open Source. Auf dem Gerät. Überall, wo Sie tippen.

Chinesisches juristisches LLaMA (LLaMA für den chinesischen Rechtsbereich)

Ein vollständiger Leitfaden, um im Jahr 2026 mit geringen Vorkenntnissen Ihre LLM-Fähigkeiten aufzubauen und zu verbessern sowie über die neuesten Nachrichten und State-of-the-Art-Techniken auf dem Laufenden zu bleiben!

TextGen: Implementierung von Textgenerierungsmodellen, einschließlich LLaMA, BLOOM, GPT2, BART, T5, SongNet und anderen. Out-of-the-box-Training und -Prädiktion für Modelle wie LLaMA, ChatGLM, BLOOM, GPT2, Seq2Seq, BART, T5, UDA usw.

Erstellen Sie KI-Agenten von Grund auf mit einem lokalen LLM – ohne Frameworks, ohne Cloud-APIs, ohne verstecktes Reasoning.