Pular para o conteúdo principal
buildradar
Sign in

xorbitsai/inference

@xorbitsai

Troque o GPT por qualquer LLM alterando apenas uma linha de código. O Xinference permite executar modelos de código aberto, de fala e multimodais na nuvem, localmente ou no seu laptop — tudo através de uma API de inferência unificada e pronta para produção.

Estrelas
9.537
Bifurcações
865
Linguagem
Python
Licença
Apache-2.0
Último push
há 5 dias
Pythonmachine-learningllmvllmpytorchwhisperopenai-apiartificial-intelligenceqwentransformersinferenceglmllama-cppdeploymentkimigemmallamacppdiffuserssglangkimi-k3glm-5-3

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.