inference-server
Repositórios de código aberto acompanhados marcados com inference-server, ordenados por estrelas.
Tópicos relacionados
Tópicos que aparecem com frequência ao lado de inference-server no mesmo repositório.
Em ascensão recentemente
Repositórios criados nos últimos 90 dias e marcados com inference-server.
Nenhum repositório novo marcado com este tópico nos últimos 90 dias.
- #1
Servidor de inferência de LLM com processamento contínuo e cache SSD para Apple Silicon — gerenciado pela barra de menus do macOS
★ 21.333+380Variação de estrelas nos últimos 7 dias - #2
⚡ Mecanismo de inferência WebGPU em Rust puro — compatível com a API da OpenAI, nativo em GGUF, roda em qualquer GPU. Sem Python. Sem llama.cpp. Binário único.
★ 5.816+6Variação de estrelas nos últimos 7 dias - #3
RamaLama é uma ferramenta de código aberto para desenvolvedores que simplifica a hospedagem local de modelos de IA de qualquer fonte e facilita seu uso para inferência em produção, tudo através da linguagem familiar de containers.
★ 3.031+6Variação de estrelas nos últimos 7 dias - #4
Servidor de inferência open-source e cluster de produção para todos os modelos que seu agente precisa.
★ 3.030+173Variação de estrelas nos últimos 7 dias - #5
Transforme qualquer computador ou dispositivo de borda em uma central de comando para seus projetos de visão computacional.
★ 2.431+2Variação de estrelas nos últimos 7 dias - #6
Servidor de inferência LLM de alto desempenho compatível com OpenAI e Anthropic para Apple Silicon. MLX nativo, processamento contínuo, modelos multimodais, chamada de ferramentas MCP e suporte ao Claude Code.
★ 1.557+6Variação de estrelas nos últimos 7 dias - #7★ 1.199+3Variação de estrelas nos últimos 7 dias
- #8★ 1.055+16Variação de estrelas nos últimos 7 dias
- #9
Um framework de visão computacional open source para criar e implantar aplicativos em minutos
★ 851+0Variação de estrelas nos últimos 7 dias
