llamacpp

コード補完（およびその他の機能）に LLM を活用する LSP サーバー

拙著『A Hands-On Guide to Fine-Tuning LLMs with PyTorch and Hugging Face』の公式リポジトリ

Debian上で完全プライベートなローカルLLMサーバーを構築するためのエンドツーエンドのドキュメント。チャット、ウェブ検索、RAG、モデル管理、MCPサーバー、画像生成、TTS機能を搭載。

純粋なJavaによるLlama 3以降の推論

Android 向けで現在最も高度な、完全オフラインのクライアントサイド AI スイート

🤖 LLM 向けの TUI

llama-cpp-agentフレームワークは、大規模言語モデル (LLM) と簡単にやり取りできるように設計されたツールです。LLMモデルとのチャット、構造化された関数呼び出しの実行、構造化された出力の取得を可能にします。JSON出力や関数呼び出しにファインチューニングされていないモデルでも動作します。

もう一つの言語モデル：C++/CUDA による LLM 推論（入出力以外のライブラリなし）

独自の知性を持つ Go - ハードウェアアクセラレーションを使用したローカル推論のために llama.cpp を直接統合する Go アプリケーション

Visual Studio CodeとContinueエクステンションでCode Llamaを使用する。GitHub CopilotのローカルLLM代替手段。

静的でsucklessな単一バッチのCUDA専用qwen3-0.6Bミニ推論エンジン

llama.cpp を使用した組み込みベクトル検索およびセマンティック埋め込み用の Go ライブラリ。

Claude Code CLI を使用した効率的なコード連携のための HTTP プロキシとして機能する CLI ツール、Lynkr でワークフローを効率化

Browser Operator - The AI browser with built in Multi-Agent platform! Open source alternative to ChatGPT Atlas, Perplexity Comet, Dia and Microsoft CoPilot Edge Browser