llama

🧑‍🚀 Die weltweit besten LLM-Ressourcensammlungen (multimodale Generierung, Agenten, Programmierunterstützung, KI-Review, Datenverarbeitung, Modelltraining, Modellinferenz, o1-Modelle, MCP, Small Language Models, Vision-Language-Models) | Zusammenfassung der weltweit besten LLM-Ressourcen.

BELLE: Be Everyone's Large Language model Engine (Open-Source Large Language Model für chinesische Dialoge)

Semantischer Cache für LLMs. Vollständig integriert mit LangChain und llama_index.

Verleiht jedem Kubernetes-Superkräfte

LMDeploy ist ein Toolkit zum Komprimieren, Bereitstellen und Ausführen von LLMs.

Die leistungsstärkste AI-Agent- und AI-Chat-Software auf Android / Operit ist einer der leistungsstärksten und am längsten entwickelten AI-Agenten auf Android.

Tools zum Zusammenführen vortrainierter großer Sprachmodelle.

Chinesisches LLaMA-2 & Alpaca-2 LLM Phase-2-Projekt + 64K-Langkontextmodell (Chinese LLaMA-2 & Alpaca-2 LLMs mit 64K-Langkontextmodellen)

Verwandeln Sie jede Webseite mithilfe von LLMs in strukturierte Daten

Firefly: Ein Tool zum Trainieren großer Sprachmodelle (LLMs), das das Training von Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom und weiteren LLMs unterstützt.

Effiziente Triton-Kernel für das LLM-Training

YuE: Open-Source-Grundlagenmodell zur Generierung vollständiger Songs, ähnlich wie Suno.ai, aber offen

Enchanted ist eine iOS- und macOS-App zum Chatten mit privaten, selbst gehosteten Sprachmodellen wie Llama2, Mistral oder Vicuna über Ollama.

Ein automatisierter Dokumentenanalysator für Paperless-ngx unter Verwendung von OpenAI API, Ollama, Deepseek-r1, Azure und allen OpenAI-API-kompatiblen Diensten zur automatischen Analyse und Verschlagwortung Ihrer Dokumente.

⚡ Rein in Rust geschriebene WebGPU-Inferenz-Engine — OpenAI-API-kompatibel, GGUF-nativ, läuft auf jeder GPU. Kein Python. Kein llama.cpp. Einzelne Binärdatei.

MedicalGPT: Trainieren Sie Ihr eigenes medizinisches GPT-Modell mit der ChatGPT-Training-Pipeline. Inklusive prätraining (PT), supervised fine-tuning (SFT), RLHF, DPO, ORPO, GRPO.

Ein von BaiChuan-Inc. entwickeltes großflächiges 7B-Pretraining-Sprachmodell

Ein GPU-Cluster-Manager für hochleistungsfähiges KI-Modell-Serving (vLLM, SGLang) und bedarfsgesteuerte GPU-Instanzen mit SSH-Zugang.

Lemonade hilft Benutzern dabei, lokale KI-Apps zu entdecken und auszuführen, indem optimierte LLMs direkt von ihren eigenen GPUs und NPUs bereitgestellt werden. Treten Sie unserem Discord bei: https://discord.gg/5xXzkMu8Zk

Zuverlässiger Modellwechsel für jeden lokalen, mit OpenAI/Anthropic kompatiblen Server – llama.cpp, vllm usw.

Die Open-Source-Forschungsumgebung für KI-Forscher zum nahtlosen Trainieren, Evaluieren und Skalieren von Modellen von lokaler Hardware bis hin zu GPU-Clustern.

H2O LLM Studio – Ein Framework und eine No-Code-GUI zum Fine-Tuning von LLMs. Dokumentation: https://docs.h2o.ai/h2o-llmstudio/

Leitfaden zum Aufbau von Large Language Models in einer White-Box: Ein komplett selbst entwickelter Tiny-Universe

Repo für BenCao [ursprünglicher Name: HuaTuo (华驼)], Instruction-Tuning von Large Language Models mit chinesischem medizinischem Wissen. BenCao (ursprünglicher Name: HuaTuo) Modell-Repository, Instruktions-Fine-Tuning großer Sprachmodelle basierend auf chinesischem medizinischem Wissen

Mit nur grundlegenden Python-Kenntnissen ein großes Sprachmodell von Grund auf aufbauen; schrittweiser Aufbau von GLM4\Llama3\RWKV6 von 0 an, um die Prinzipien großer Sprachmodelle tiefgreifend zu verstehen

LightLLM ist ein Python-basiertes LLM-Inferenz- und Bereitstellungsframework, das sich durch ein leichtgewichtigenes Design, einfache Skalierbarkeit und hohe Leistung auszeichnet.

Llama3 – Post-Training-Version für Chinesisch

Fehlertolerante, hochskalierbare GPU-Orchestrierung und ein Machine-Learning-Framework für das Training von Modellen mit Milliarden bis Billionen von Parametern

Chinese-Vicuna: Ein chinesisches, auf LLaMA basierendes Modell zur Befolgung von Anweisungen —— Eine ressourcenschonende LLaMA+LoRA-Lösung für Chinesisch, Struktur angelehnt an Alpaca

Nutzen Sie LLMs mit Multi-Agenten-Programmierung