Maximilian-Winter/llama-cpp-agent

llama-cpp-agent फ्रेमवर्क Large Language Models (LLMs) के साथ आसानी से बातचीत करने के लिए डिज़ाइन किया गया एक टूल है। उपयोगकर्ताओं को LLM मॉडल के साथ चैट करने, संरचित फ़ंक्शन कॉल निष्पादित करने और संरचित आउटपुट प्राप्त करने की अनुमति देता है। JSON आउटपुट और फ़ंक्शन कॉल के लिए फ़ाइन-ट्यून न किए गए मॉडल के साथ भी काम करता है।