Maximilian-Winter

Das llama-cpp-agent-Framework ist ein Tool zur einfachen Interaktion mit Large Language Models (LLMs). Es ermöglicht Benutzern, mit LLM-Modellen zu chatten, strukturierte Funktionsaufrufe auszuführen und strukturierte Ausgaben zu erhalten. Funktioniert auch mit Modellen, die nicht für JSON-Ausgaben und Funktionsaufrufe fine-getuned wurden.