llamacpp

Server LSP yang memanfaatkan LLM untuk penyelesaian kode (dan lainnya?)

Repositori resmi buku saya "A Hands-On Guide to Fine-Tuning LLMs with PyTorch and Hugging Face".

Dokumentasi ujung-ke-ujung untuk menyiapkan server LLM lokal & sepenuhnya privat Anda di Debian. Dilengkapi dengan obrolan, pencarian web, RAG, manajemen model, server MCP, pembuatan gambar, dan TTS.

Inferensi Llama 3+ dalam Java murni.

Suite AI sisi klien yang sepenuhnya offline dan paling canggih di Android saat ini.

🤖 TUI untuk LLM

Kerangka kerja llama-cpp-agent adalah alat yang dirancang untuk memudahkan interaksi dengan Large Language Models (LLM). Memungkinkan pengguna untuk mengobrol dengan model LLM, mengeksekusi panggilan fungsi terstruktur, dan mendapatkan keluaran terstruktur. Juga bekerja dengan model yang tidak disetel secara khusus untuk keluaran JSON dan panggilan fungsi.

Yet Another Language Model: Inferensi LLM dalam C++/CUDA, tanpa pustaka kecuali untuk I/O

Gunakan kecerdasan Anda sendiri - Aplikasi Go yang secara langsung mengintegrasikan llama.cpp untuk inferensi lokal menggunakan akselerasi perangkat keras.

Gunakan Code Llama dengan Visual Studio Code dan ekstensi Continue. Alternatif LLM lokal untuk GitHub Copilot.

Mesin inferensi mini qwen3-0.6B khusus CUDA batch tunggal statis yang suckless

Pustaka Go untuk pencarian vektor tersemat dan embedding semantik menggunakan llama.cpp

Sederhanakan alur kerja Anda dengan Lynkr, alat CLI yang bertindak sebagai HTTP proxy untuk interaksi kode yang efisien menggunakan Claude Code CLI.

Browser Operator - The AI browser with built in Multi-Agent platform! Open source alternative to ChatGPT Atlas, Perplexity Comet, Dia and Microsoft CoPilot Edge Browser