localllm

वेब ब्राउज़िंग में सहायता के लिए अपने स्थानीय रूप से चल रहे AI मॉडल का उपयोग करें।

स्थानीय LLM खोजें जो वास्तव में आपके हार्डवेयर पर सबसे अच्छा चलता है और प्रदर्शन करता है। वास्तविक बेंचमार्क द्वारा रैंक किया गया। एक कमांड, इसे तुरंत चलाएं।

किसी भी स्थानीय OpenAI/Anthropic संगत सर्वर - llama.cpp, vllm, आदि के लिए विश्वसनीय मॉडल स्वैपिंग

अपने ब्राउज़र के अंदर llama, deepseek-distill, kokoro जैसे लोकल LLMs चलाएं।

Steno आपकी सभी गोपनीय बातचीत के लिए अत्यधिक सुरक्षित, गोपनीयता-प्रथम AI नोटपैड और नोटटेकर है। Windows और MacOS पर। सरकार और रक्षा क्षेत्रों के लिए।

Large Language Models (LLMs) के साथ एक सामान्यीकृत सूचना-खोज एजेंट सिस्टम।

[ICML 2024] SqueezeLLM: डेंस-एंड-स्पार्स क्वांटाइजेशन।