llama2

[NeurIPS'23 Oral] GPT-4Vレベルの能力、さらにはそれを超えることを目指したVisual Instruction Tuning (LLaVA)。

Llama Cookbookへようこそ！これはLlamaを使った構築のためのガイドブックです。推論、ファインチューニング、RAGの始め方を紹介します。また、Llamaモデルファミリーを使用してエンドツーエンドの問題を解決する方法や、様々なプロバイダーサービスでそれらを利用する方法も示します。

DeepSeekやLlamaなどのオープンソースLLMを、クラウド上でOpenAI互換のAPIエンドポイントとして実行できます。

カスタムLLM、ニューラルネットワーク、その他のAIモデルを構築するためのローコードフレームワーク

セルフホスト型、オフラインのChatGPTライクなチャットボット。Llama 2を搭載。100%プライベートで、データがデバイスから外部に出ません。新機能：Code Llama対応！

LMDeployは、LLMの圧縮、デプロイ、サービングのためのツールキットである。

OpenCompassはLLM評価プラットフォームであり、100以上のデータセットで幅広いモデル（Llama3, Mistral, InternLM2, GPT-4, LLaMa2, Qwen, GLM, Claudeなど）をサポートしています。

中国語LLaMA-2 & Alpaca-2大規模モデルフェーズ2プロジェクト + 64K超長コンテキストモデル (Chinese LLaMA-2 & Alpaca-2 LLMs with 64K long context models)

Firefly: 大規模言語モデルのトレーニングツール。Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloomなどの大規模モデルのトレーニングをサポートします。

Enchantedは、Ollamaを使用してLlama2、Mistral、Vicunaなどのプライベートセルフホスト型言語モデルとチャットするためのiOSおよびmacOSアプリです。

H2O LLM Studio - LLMのファインチューニングのためのフレームワークおよびノーコードGUI。ドキュメント: https://docs.h2o.ai/h2o-llmstudio/

Llama3-中国語後訓練版。

耐障害性があり、高いスケーラビリティを持つGPUオーケストレーション、および数十億から数兆のパラメータを持つモデルのトレーニングのために設計された機械学習フレームワーク

Baichuan Intelligent Technologyが開発した一連の大規模言語モデル

中国語NLPソリューション（大規模モデル、データ、モデル、トレーニング、推論）

LLM (🦙LLaMA/LLaVA) をローカルデバイスで効率的に実行するためのC#/.NETライブラリ。

The most no-nonsense, locally or API-hosted AI code completion plugin for Visual Studio Code - like GitHub Copilot but 100% free.

分散型 LLM 推論。ホームデバイスを強力なクラスターに接続して LLM 推論を高速化します。デバイスが多いほど推論が高速になります。

LLM（ローカルまたはAPI）を使用してTesseract OCRの出力を改善し、スキャンされたPDFのエラー修正、スマートなチャンキング、Markdownフォーマットを行います

peftを使用したLLMのファインチューニング

✨ ターミナル、ブラウザ、エディタを使用して複雑なタスクやプロジェクトを実行できる、完全自律型 AI エージェント。

オープンソースの大規模言語モデル向けの OpenAI スタイル API。ChatGPT のように LLM を利用可能。LLaMA、LLaMA-2、BLOOM、Falcon、Baichuan、Qwen、Xverse、SqlCoder、CodeLLaMA、ChatGLM、ChatGLM2、ChatGLM3 などをサポート

シンプルで高性能、かつスケーラブルな Jax LLM です！

TigerBot: 多言語・マルチタスク対応の LLM

純粋な 🔥 の1ファイルでLlama 2を推論

Aila (AI超元域): Windows、macOS、Android 向けの主要な AI 統合ツール。一度の質問で、ChatGPT、Gemini、Claude3、Copilot、Poe、Perplexity など 10 以上の AI から回答を得られます。カスタマイズ可能な AI とプロンプト機能を備えています。

Linux、Windows、Macの環境を問わず、GPUまたはCPU上でgradio UIを使用してLlama 2をローカルで実行。Generative Agents/Appsのローカルllama2バックエンドとして`llama2-wrapper`を使用できます。

[ICML 2024] LLMCompiler: 並列関数呼び出しのための LLM コンパイラ

本番環境向けのRAGベースLLMアプリケーション構築に関する包括的なガイド

あらゆる LLM のトークン/秒および GPU メモリ要件を計算します。llama.cpp/ggml/bnb/QLoRA の量子化をサポート