llama

Ein Open-Source-Bildungs-Chat-Modell von ICALK, East China Normal University. (Basismodell, GPU-Bereitstellung, Datenbereinigung). Tribute an: LLaMA, MOSS, BELLE, Ziya, vLLM

ChatGPT CLI ist eine leistungsstarke, anbieterübergreifende Befehlszeilenschnittstelle für die Arbeit mit modernen LLMs. Sie unterstützt OpenAI, Azure, Perplexity, LLaMA und mehr mit Funktionen wie Streaming, interaktivem Chat, Prompt-Dateien, Bild-/Audio-I/O, MCP-Tool-Aufrufen und einem experimentellen Agentenmodus für sichere, mehrstufige Automatisierung.

Zeitstrahl zu ChatGPT, GenerativeAI und LLMs

Unterstützung von Large Language Models (LLM) durch Knowledge Graph-basierte Retrieval-Augmented Generation (KG-RAG) für wissensintensive Aufgaben

Selbstgesteuertes Bootcamp zu Generative AI. Tutorials zu ML-Grundlagen, Ollama, LLMs, RAGs, LangChain, LangGraph, Fine-Tuning, DSPy & AI Agents (CrewAI) (unter Verwendung von ChatGPT, gpt-oss, Claude, Qwen, Gemma, Llama, Gemini)

Eine hochoptimierte LLM-Inferenz-Beschleunigungs-Engine für Llama und dessen Varianten.

🚀 Native PyTorch-Bibliothek für das verteilte Training von LLMs/VLMs mit integrierter Hugging-Face-Unterstützung

🤖 Eine PyTorch-Bibliothek mit kuratierten Transformer-Modellen und deren kombinierbaren Komponenten

Dieses Repository stellt PIXIU vor, eine Open-Source-Ressource mit den ersten großen Sprachmodellen (LLMs) für den Finanzsektor, Instruktions-Tuning-Daten und Evaluierungs-Benchmarks zur ganzheitlichen Bewertung von Finanz-LLMs. Unser Ziel ist es, die Open-Source-Entwicklung der künstlichen Intelligenz (KI) im Finanzwesen kontinuierlich voranzutreiben.

🤖 Automatisch gesammelte KI-Repositories, Tools, Websites, Paper und Tutorials. Nützliche KI-Fundgrube 💎

Agenten-Beispiele, erstellt mit dem Strands Agents SDK.

🤖✨ ChatMLX ist eine moderne, Open-Source-Hochleistungs-Chatanwendung für macOS basierend auf großen Sprachmodellen.

Machen Sie Discord zu Ihrem LLM-Frontend – Unterstützt jede OpenAI-kompatible API (OpenRouter, Ollama und mehr)

Llama-3+-Inferenz in reinem Java

🚀🚀🚀 Eine Sammlung großartiger öffentlicher Projekte zu Large Language Models (LLM), Vision Language Models (VLM), Vision Language Action (VLA), AI Generated Content (AIGC) sowie den zugehörigen Datensätzen und Anwendungen.

Ein 1B-LLM mit 1T Token von Grund auf selbst trainieren

Training und Fine-Tuning mit Lichtgeschwindigkeit

QiZhenGPT: Ein Open-Source-Modell für medizinische chinesische Großsprachmodelle

LLM Jailbreaks, ChatGPT, Claude, Llama, DAN Prompts, Prompt Leaking

Echtzeit-Sprachassistent — WebRTC-Streaming, faster-whisper ASR, lokales LLM, Vui Nano (300M) TTS. Kompatibel mit der OpenAI Realtime API. Sprachklonen, Barge-in, ca. 9-fache Echtzeit auf einer 4090. Apache 2.0.

Konversationelle Sprach-KI-Agenten

Eine Sammlung von awesome-prompt-datasets und awesome-instruction-datasets zum Training von ChatLLMs wie ChatGPT.

[ICML 2024] SqueezeLLM: Dense-and-Sparse Quantization

[CVPR 2024] MovieChat: Von dichten Token zu sparsamem Speicher für das Verständnis langer Videos

LLaSA: Skalierung von Trainings- und Inferenz-Rechenleistung für LLaMA-basierte Sprachsynthese

Awesome-LLM-Eval: eine kuratierte Liste von Tools, Datensätzen/Benchmarks, Demos, Bestenlisten, Papers, Dokumenten und Modellen, hauptsächlich zur Evaluierung von LLMs.

[ICLR 2024] Sheared LLaMA: Beschleunigung des Vortrainings von Sprachmodellen durch strukturiertes Pruning

Privates lokales Modellstudio, KI-Chat und Agenten-Arbeitsbereich, angetrieben von WebGPU und WebLLM.

End-to-End Generative-AI-Branchenprojekte zu LLM-Modellen mit Deployment_Awesome LLM Projects

Schritt-für-Schritt-Implementierung der llama3-Inferenz, Verständnis der Kernkonzepte, Beherrschung der Prozessableitung und Implementierung des Codes.