llama

🧑‍🚀 Rangkuman sumber daya LLM terbaik di dunia (generasi multimodal, Agent, pemrograman berbantuan, peninjauan AI, pemrosesan data, pelatihan model, inferensi model, model o1, MCP, model bahasa kecil, model bahasa visual) | Ringkasan sumber daya LLM terbaik di dunia.

BELLE: Be Everyone's Large Language model Engine (model bahasa besar percakapan bahasa Mandarin sumber terbuka)

Cache semantik untuk LLM. Terintegrasi penuh dengan LangChain dan llama_index.

Memberikan kekuatan super Kubernetes kepada semua orang

LMDeploy adalah toolkit untuk mengompresi, mendistribusikan, dan melayani LLM.

Perangkat lunak agen AI dan obrolan AI paling andal di Android / Operit adalah Agen AI paling andal dan paling lama berkembang di Android

Alat untuk menggabungkan model bahasa besar yang telah dilatih sebelumnya.

Proyek fase kedua model besar LLaMA-2 & Alpaca-2 bahasa Mandarin + model konteks super panjang 64K

Ubah halaman web apa pun menjadi data terstruktur menggunakan LLM

Firefly: Alat pelatihan LLM, mendukung pelatihan model besar seperti Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llma2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom, dan lainnya.

Kernel Triton yang efisien untuk Pelatihan LLM

YuE: Model Fondasi Generasi Musik Lagu Penuh Terbuka, mirip dengan Suno.ai tetapi bersifat terbuka

Enchanted adalah aplikasi iOS dan macOS untuk mengobrol dengan model bahasa pribadi yang di-host sendiri seperti Llama2, Mistral, atau Vicuna menggunakan Ollama.

Penganalisis dokumen otomatis untuk Paperless-ngx menggunakan OpenAI API, Ollama, Deepseek-r1, Azure, dan semua Layanan yang kompatibel dengan OpenAI API untuk menganalisis dan menandai dokumen Anda secara otomatis.

⚡ Mesin inferensi WebGPU berbasis Pure-Rust — Kompatibel dengan OpenAI-API, mendukung GGUF secara native, berjalan di GPU apa pun. Tanpa Python. Tanpa llama.cpp. Berupa biner tunggal.

MedicalGPT: Melatih Model GPT Medis Anda Sendiri dengan Pipeline Pelatihan ChatGPT. Melatih model AI medis berskala besar, mengimplementasikan pra-pelatihan inkremental (PT), fine-tuning tersupervisi (SFT), RLHF, DPO, ORPO, dan GRPO.

Model bahasa pretraining 7B skala besar yang dikembangkan oleh BaiChuan-Inc.

Manajer klaster GPU untuk penyajian model AI berkinerja tinggi (vLLM, SGLang) dan instans GPU yang dapat diakses via SSH sesuai permintaan.

Lemonade membantu pengguna menemukan dan menjalankan aplikasi AI lokal dengan menyajikan LLM yang dioptimalkan langsung dari GPU dan NPU mereka sendiri. Bergabunglah dengan Discord kami: https://discord.gg/5xXzkMu8Zk

Pertukaran model yang andal untuk server lokal yang kompatibel dengan OpenAI/Anthropic - llama.cpp, vllm, dll

Lingkungan riset sumber terbuka bagi peneliti AI untuk melatih, mengevaluasi, dan menskalakan model secara mulus dari perangkat keras lokal ke kluster GPU.

H2O LLM Studio - kerangka kerja dan GUI tanpa kode untuk fine-tuning LLM. Dokumentasi: https://docs.h2o.ai/h2o-llmstudio/

Panduan Membangun White Box Model Bahasa Besar: Tiny-Universe yang dibuat sepenuhnya dari nol

Repositori untuk BenCao [nama asli: HuaTuo], Instruction-tuning Large Language Models dengan pengetahuan medis bahasa Mandarin.

Membangun Large Language Model dari nol hanya dengan dasar Python; membangun GLM4/Llama3/RWKV6 langkah demi langkah untuk memahami prinsip LLM secara mendalam

LightLLM adalah framework inferensi dan penyajian LLM (Large Language Model) berbasis Python, yang dikenal karena desainnya yang ringan, skalabilitas yang mudah, dan performa berkecepatan tinggi.

Versi pasca-pelatihan Llama3 untuk bahasa Mandarin

Orkestrasi GPU yang toleran terhadap kesalahan dan sangat skalabel, serta kerangka kerja pembelajaran mesin yang dirancang untuk melatih model dengan miliaran hingga triliunan parameter

Chinese-Vicuna: Model berbasis LLaMA yang mengikuti instruksi bahasa Mandarin — solusi llama+lora sumber daya rendah untuk bahasa Mandarin, dengan struktur yang merujuk pada alpaca

Manfaatkan LLM dengan Pemrograman Multi-Agen