llama2

LangChain- und Prompt-Engineering-Tutorials zu Large Language Models (LLMs) wie ChatGPT mit benutzerdefinierten Daten. Jupyter Notebooks zum Laden und Indizieren von Daten, Erstellen von Prompt-Templates, CSV-Agenten und Verwenden von Retrieval-QA-Chains zur Abfrage der benutzerdefinierten Daten. Projekte zur Nutzung eines privaten LLM (Llama 2) für Chats mit PDF-Dateien und Tweet-Stimmungsanalyse.

Chatten Sie mit Ihren Dokumenten mithilfe lokaler KI

Ein FastAPI-Service für semantische Textsuche unter Verwendung von vorberechneten Embeddings und erweiterten Ähnlichkeitsmaßen, mit integrierter Unterstützung für verschiedene Dateitypen durch textract.

Ein durchsatzorientiertes Hochleistungs-Serving-Framework für LLMs

Unterstützung von Large Language Models (LLM) durch Knowledge Graph-basierte Retrieval-Augmented Generation (KG-RAG) für wissensintensive Aufgaben

[ICLR 2025] Alignment Data Synthesis from Scratch by Prompting Aligned LLMs with Nothing. Ihre effiziente und hochwertige Pipeline zur Generierung synthetischer Daten!

Toolkit zum Fine-Tuning, Ablation Testing und Unit-Testen von Open-Source-LLMs.

Beispiel zur Konzeption intellektueller Apps mit dem Microsoft Copilot-Stack für KI-gestützte Produkterlebnisse.

Eine persönliche, tragbare KI, die lokal ausgeführt wird.

[ICLR 2024] Sheared LLaMA: Beschleunigung des Vortrainings von Sprachmodellen durch strukturiertes Pruning

Nutzt ChatGPT API, Bard API und Llama2, Python-Nmap, DNS-Recon, PCAP- und JWT-Recon-Module sowie das GPT3-Modell zur Erstellung von Schwachstellenberichten basierend auf Nmap-Scandaten und DNS-Informationen. Kann zudem eine umfassende Subdomain-Enumeration durchführen.

[ECCV2024] Grounded Multimodal Large Language Model mit lokalisierter visueller Tokenisierung

LLM (Large Language Model) Fine-Tuning.

Training und Inferenz leistungsstarker Satz-Embeddings mit AnglE – SOTA auf den STS- und MTEB-Bestenlisten.

Ein Projekt für Praktika und Berufseinstieg, das Sie Schritt für Schritt bei der Implementierung eines LLM-Inferenz-Frameworks mit Unterstützung für Llama2/3 und Qwen2.5 anleitet.

Code Llama mit Visual Studio Code und der Continue-Erweiterung nutzen. Eine lokale LLM-Alternative zu GitHub Copilot.

Aufbau eines MiniLLM von Grund auf (Praxisbeispiel mit Pretrain, SFT und DPO)

[ACL 2024] Progressive LLaMA mit Block-Erweiterung.

Erstellung von Wissensgraphen mittels LLMs