mlc-ai

Mecanismo universal de implantação de LLM com compilação de ML

Motor de inferência de LLM de alto desempenho para navegadores.

Trazendo modelos de stable diffusion para navegadores web. Tudo roda dentro do navegador sem suporte de servidor.

Geração estruturada rápida, flexível e portátil

Um tutorial sobre programação moderna de GPU para sistemas de aprendizado de máquina

Converse com modelos de linguagem de IA executados nativamente no seu navegador. Desfrute de conversas com IA privadas, sem servidor e contínuas.

Tokenizadores universais multiplataforma com vinculação para HF e sentencepiece