text-generation

LocalAI는 오픈소스 AI 엔진입니다. LLM, 비전, 음성, 이미지, 비디오 등 어떤 모델이든 하드웨어 제약 없이 실행하세요. GPU는 필요하지 않습니다.

푸단대학교에서 개발한 오픈소스 도구 연동 대화형 언어 모델

BERT 토크나이저를 사용하는 GPT2 학습 코드 중국어 버전

대규모 언어 및 멀티모달 시스템을 위한 웹 사용자 인터페이스 (Lord of Large Language and Multi modal Systems)

중국어 NLP 솔루션 (대규모 모델, 데이터, 모델, 학습, 추론)

Streamer-Sales 쌰오관 — 쇼호스트 LLM 대형 모델🛒🎁, 주어진 상품의 특징에 따라 사용자의 구매 의욕을 자극하는 각도로 상품을 설명할 수 있는 쇼호스트 LLM 대형 모델입니다.🚀⭐ 상세한 데이터 생성 프로세스 포함❗ 📦 또한 LMDeploy 가속 추론🚀, RAG 검색 augmentation 생성 📚, TTS 텍스트 음성 변환🔊, 디지털 휴먼 생성 🦸, Agent를 이용한 실시간 정보 웹 검색🌐, ASR 음성 텍스트 변환🎙️, Vue 생태계 기반 프론트엔드🍍, FastAPI 기반 백엔드🗝️, Docker-compose 패키지 배포🐋 통합

peft를 이용한 LLM 파인튜닝

인간의 선호도에 맞춰 언어 모델을 파인튜닝하기 위한 모듈식 RL 라이브러리

TensorFlow 기반 머신러닝, 자연어 처리 및 텍스트 생성을 위한 툴킷입니다. CASL 프로젝트(http://casl-project.ai/)의 일부입니다.

스즈미야 하루히 챗, Cheng Li, Ziang Leng 등이 참여한 오픈 소스 역할극 챗봇입니다.

중국어 대화 0.2B 소형 모델(ChatLM-Chinese-0.2B). 데이터셋 소스, 데이터 정제, tokenizer 학습, 모델 사전 학습, SFT 명령어 미세 조정, RLHF 최적화 등 전체 프로세스의 소스 코드를 오픈소스화했습니다. 다운스트림 작업 SFT 미세 조정을 지원하며, 삼중항 정보 추출 미세 조정 예제를 제공합니다.

WebAI2API: Camoufox 기반 웹 AI-to-API 도구, LMArena/Gemini 등 지원, 멀티 윈도우 동시성 및 계정 격리 제공. | Web AI to OpenAI API via Camoufox. Supports LMArena/Gemini and more, multi-window concurrency & account isolation.

Windows, Linux, macOS를 위한 검열 없는 로컬 AI 스튜디오. 이미지 생성, GGUF LLM, 텍스트 음성 변환 및 음성 텍스트 변환을 위한 제로 설정 GUI

TextGen: LLaMA, BLOOM, GPT2, BART, T5, SongNet 등을 포함한 텍스트 생성 모델 구현체. LLaMA, ChatGLM, BLOOM, GPT2, Seq2Seq, BART, T5, UDA 등의 모델 학습 및 예측을 지원하며 즉시 사용 가능합니다.

TextGAN은 텍스트 생성 모델을 위한 적대적 생성 신경망(GAN) 기반의 PyTorch 프레임워크입니다.

코드 생성 작업을 위해 설계된 새로운 모델. HumanEval 기본 데이터셋 테스트 정확도가 GPT-4 Turbo(2024년 4월) 및 GPT-4o를 상회함

새로운 유형의 AI 빌더를 위한 최첨단 툴킷 Magick입니다.

[ICLR'23] DiffuSeq: 확산 모델을 이용한 Sequence to Sequence 텍스트 생성

언어 모델링을 위해 Kolmogorov-Arnold Networks(KAN)를 사용하는 GPT(Generative Pre-trained Transformers)의 PyTorch 구현

[ICML 2024] SqueezeLLM: 조밀 및 희소 양자화

Phi2-Chinese-0.2B: Phi2 중국어 소형 모델을 처음부터 학습하고, LangChain을 통해 로컬 지식 베이스를 연동하여 RAG를 구현

CRSLab은 대화형 추천 시스템(CRS) 구축을 위한 오픈소스 툴킷입니다.

AI Plugin은 Payload CMS를 위한 강력한 확장 기능으로, 고급 AI 기능을 통합하여 콘텐츠 생성 및 관리를 향상함