llama2

ChatGPT などの大規模言語モデル（LLM）に関する LangChain & プロンプトエンジニアリングのチュートリアル。カスタムデータを使用した Jupyter Notebook（データの読み込みとインデックス化、プロンプトテンプレートの作成、CSV エージェント、検索 QA チェーンを使用したカスタムデータのクエリなど）。プライベート LLM（Llama 2）を使用した PDF ファイルとのチャットや、ツイートの感情分析プロジェクト。

ローカル AI を使用してドキュメントとチャット。

事前計算された埋め込みと高度な類似度計算を用いた、セマンティックテキスト検索用のFastAPIサービス。textractを通じて様々なファイル形式を標準サポート。

スループット指向の LLM 向け高性能サービング フレームワーク

知識集約型タスクのために、知識グラフベースの検索拡張生成（KG-RAG）を使用して大規模言語モデル（LLM）を強化する

[ICLR 2025] アライメント済み LLM に何も与えずにプロンプティングすることによる、ゼロからのアライメントデータ合成。効率的で高品質な合成データ生成パイプライン！

オープンソースLLMのファインチューニング、アブレーション、単体テストを行うためのツールキット。

AI を組み込んだ製品体験を実現する Microsoft の Copilot スタックを活用したインテリジェントアプリのサンプル

ローカルで動作するパーソナルなウェアラブルAI。

[ICLR 2024] Sheared LLaMA: 構造化プルーニングによる言語モデル事前学習の高速化

ChatGPT API、Bard API、Llama2、Python-Nmap、DNS Recon、PCAP、JWT reconモジュールを使用し、NmapスキャンデータとDNSスキャン情報に基づいてGPT3モデルで脆弱性レポートを作成します。また、大規模なサブドメイン列挙も実行できます。

[ECCV2024] 局所化されたビジュアルトークン化を備えたグラウンデッドマルチモーダル大規模言語モデル

LLM（大規模言語モデル）のファインチューニング

AnglE を使用した強力な文埋め込みの学習と推論 | 🔥 STS および MTEB リーダーボードで SOTA を達成

キャンパス採用やインターンシップに最適なプロジェクト。ゼロから手を動かして、LLaMA2/3およびQwen2.5をサポートする大規模言語モデル（LLM）推論フレームワークを実装します。

Visual Studio CodeとContinueエクステンションでCode Llamaを使用する。GitHub CopilotのローカルLLM代替手段。

0から1へとMiniLLMを構築（pretrain+sft+dpoの実践）

[ACL 2024] ブロック拡張を用いたプログレッシブなLLaMA

LLMを使用してナレッジグラフを作成する