llama

Mulai dan jalankan Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma, dan model lainnya.

Mesin inferensi dan serving ber-throughput tinggi serta hemat memori untuk LLM

UI lokal untuk menjalankan dan melatih LLM serta model difusi, termasuk Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX, dan lainnya.

Fine-Tuning Efisien Terpadu untuk 100+ LLM & VLM (ACL 2024)

LocalAI adalah mesin AI sumber terbuka. Jalankan model apa pun - LLM, visi, suara, gambar, video - di perangkat keras apa pun. Tidak memerlukan GPU.

aider adalah pemrograman berpasangan AI di terminal Anda

Framework pengembangan dan asisten AI Agent yang mengintegrasikan berbagai platform IM, LLM, plugin, dan fitur AI, serta dapat menjadi alternatif openclaw Anda. ✨

Langchain-Chatchat (sebelumnya langchain-ChatGLM), aplikasi RAG dan Agen berbasis pengetahuan lokal LLM (seperti ChatGLM, Qwen, dan Llama) dengan Langchain.

Inferensi AirLLM 70B dengan GPU 4GB tunggal.

SGLang adalah kerangka kerja penyajian berkinerja tinggi untuk model bahasa besar dan model multimodal.

TTS sumber terbuka SOTA.

📦 Repomix adalah alat canggih yang mengemas seluruh repositori Anda ke dalam satu file yang ramah AI. Sempurna untuk saat Anda perlu memberikan basis kode Anda ke Large Language Models (LLM) atau alat AI lainnya seperti Claude, ChatGPT, DeepSeek, Perplexity, Gemini, Gemma, Llama, Grok, dan banyak lagi.

[NeurIPS'23 Oral] Visual Instruction Tuning (LLaVA) yang dibangun untuk mencapai kemampuan setingkat GPT-4V dan seterusnya.

Kumpulan model bahasa besar (LLM) bahasa Mandarin sumber terbuka, berfokus pada model berskala kecil yang dapat diterapkan secara privat dengan biaya pelatihan rendah, termasuk model dasar, fine-tuning domain spesifik, aplikasi, dataset, dan tutorial.

Model bahasa besar LLaMA & Alpaca versi bahasa Mandarin + pelatihan dan deployment lokal menggunakan CPU/GPU.

Selamat datang di Llama Cookbook! Ini adalah panduan utama Anda untuk Membangun dengan Llama: Memulai dengan Inference, Fine-Tuning, RAG. Kami juga menunjukkan cara menyelesaikan masalah end-to-end menggunakan keluarga model Llama dan menggunakannya di berbagai layanan penyedia

Gunakan PEFT atau Full-parameter untuk CPT/SFT/DPO/GRPO 600+ LLM (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) dan 300+ MLLM (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).

GUI untuk API ChatGPT dan banyak LLM. Mendukung agen, QA berbasis file, fine-tuning GPT, dan kueri dengan pencarian web. Semuanya dengan UI yang rapi.

Komunitas Llama bahasa Mandarin, mengumpulkan materi pembelajaran Llama terbaru secara real-time, membangun ekosistem open source model besar Llama bahasa Mandarin terbaik, sepenuhnya open source dan dapat digunakan secara komersial.

LangChain4j adalah pustaka Java sumber terbuka yang idiomatik untuk membangun aplikasi berbasis LLM di JVM. Pustaka ini menawarkan API terpadu untuk penyedia LLM dan penyimpanan vektor populer, serta memudahkan implementasi pemanggilan alat (termasuk dukungan MCP), agen, dan RAG. Integrasinya mulus dengan kerangka kerja Java perusahaan seperti Quarkus dan Spring Boot.

Pustaka LLM dan SLM yang kuat dan mudah digunakan dengan koleksi model yang luar biasa.

Cara termudah untuk menjalankan LLaMA di mesin lokal Anda

Jalankan LLM open-source apa pun, seperti DeepSeek dan Llama, sebagai endpoint API yang kompatibel dengan OpenAI di cloud.

Alat produktivitas baris perintah yang didukung oleh model bahasa besar AI seperti GPT-5, membantu Anda menyelesaikan tugas dengan lebih cepat dan efisien.

BISHENG adalah platform devops LLM sumber terbuka untuk aplikasi AI perusahaan generasi berikutnya. Fitur yang kuat dan komprehensif mencakup: alur kerja GenAI, RAG, Agen, manajemen model terpadu, evaluasi, SFT, manajemen dataset, manajemen sistem tingkat perusahaan, observabilitas, dan banyak lagi.

Kerangka kerja low-code untuk membangun LLM kustom, jaringan saraf, dan model AI lainnya

Chatbot mirip ChatGPT yang di-host sendiri dan offline. Ditenagai oleh Llama 2. 100% privat, tanpa data yang meninggalkan perangkat Anda. Baru: Dukungan Code Llama!

🌸 Jalankan LLM di rumah, dengan gaya BitTorrent. Fine-tuning dan inferensi hingga 10x lebih cepat daripada offloading

Penyajian Large Language Model berkecepatan tinggi untuk penyebaran lokal

Lakukan fine-tuning, evaluasi, dan deploy Qwen, Gemma, atau LLM open weight lainnya dengan mudah!