genai

🚀 機械学習のための素晴らしいシステム ⚡️ AIシステム論文と業界の実践。 ⚡️ 機械学習、LLM (Large Language Model)、GenAI (Generative AI) 用のシステム。 🍻 OSDI、NSDI、SIGCOMM、SoCC、MLSysなど。 🗃️ Llama3、Mistralなど。 🧑‍💻 ビデオチュートリアル。

LLMの推論プロキシの最適化

[ICLR2025 Spotlight] SVDQuant: 4ビット拡散モデルのための低ランク成分による外れ値吸収

AI エージェント向けの汎用メモリレイヤー。次世代の自律型システムにおける AI エージェントの状態管理を効率化するため、スケーラブルで拡張可能、かつ相互運用可能なメモリの保存と取得を提供します。

NunchakuのComfyUIプラグイン

AIエンジニアリングのためのオープンソースプラットフォーム：OpenTelemetryネイティブのLLMオブザーバビリティ、GPU監視、ガードレール、評価、プロンプト管理、Vault、プレイグラウンド。 🚀💻 50以上のLLMプロバイダー、VectorDB、エージェントフレームワーク、GPUと統合。

詳細なロードマップ、プロジェクト、ユースケース、面接対策、コーディング対策を含む、Generative AI に関する包括的なリソース

APIやマイクロサービスのようにAIエージェントを構築、実行、スケーリングする

中国聯通の遠景万物エージェントプラットフォームは、エンタープライズグレードのマルチテナント型 AI エージェント開発プラットフォームです。インテリジェントエージェント、ワークフロー、RAG などのアプリケーション構築を支援し、モデル管理もサポートします。開発者に優しいライセンスを採用しており、すべての開発者のプラットフォーム上での構築を歓迎します。

オーバーヘッドなしで信頼性の高いGen AIソリューションを構築 🍕

効率的かつ並列的なコンテンツ処理を可能にする、軽量な Python ライブラリの GenAI Processors。

オープンソースのRAGプラットフォーム：引用機能、ディープリサーチ、22種類以上のファイル形式、パーティション、MCPサーバーなどを内蔵

高解像度生成の民主化を目指すプロジェクト (CVPR 2024)

Witsy：デスクトップAIアシスタント / ユニバーサルMCPクライアント

簡単で使いやすく高性能なAIデプロイフレームワーク

柔軟性と制御性を備え、高度な AI エージェントの構築、評価、デプロイを行うためのオープンソースのコードファースト Java ツールキット。

LLPhant - OpenAI GPT 4 を使用した包括的な PHP 生成 AI フレームワーク。Langchain からインスピレーションを得ています

複雑な質問応答に向けた高度な RAG（Retrieval-Augmented Generation）ソリューションを提供するリポジトリ。高度なグラフベースのアルゴリズムを使用してタスク処理を行う

AI データアプリ向けの統合マルチモーダルバックエンド

本番環境に対応した最適な RAG（Retrieval Augmented Generation）環境を構築するためのツールキット

PC用のAIエージェントを構築する

Windows 開発者がローカルモデルや API を使用して Windows アプリに AI を追加する方法を学ぶためのオープンソースプロジェクト。

ストリートファイター3で戦わせて LLM をベンチマーク！LLM の品質を評価する新しい方法

AWS CDK on AWS を使用して Multi-LLM および Multi-RAG 駆動型チャットボットをデプロイするための、モジュール式かつ包括的なソリューション (Amazon Bedrock、Anthropic、HuggingFace、OpenAI、Meta、AI21、Cohere、Mistral 対応)

高度な AI エージェントを柔軟性と制御性を持って構築、評価、デプロイするための、オープンソースのコードファーストな TypeScript ツールキット。

Jlama は Java 向けのモダンな LLM 推論エンジンです

Python向けNeo4j GraphRAG

OpenVINO™ の推論を最適化するためのニューラルネットワーク圧縮フレームワーク

エージェントに強力な機能を与えるツールセット

Elasticsearch を使用した検索・AI アプリケーション向けのノートブックとサンプルアプリ