freellmpool: um gateway MCP local que agrega endpoints LLM gratuitos
freellmpool, desenvolvido por 0xzr, é um servidor e gateway de API de Protocolo de Contexto de Modelo (MCP) de código aberto que agrega camadas gratuitas de dezenas de Modelos de Linguagem Grande em um único ponto de extremidade local. A ferramenta reúne vários provedores hospedados, expõe uma interface compatível com OpenAI e oferece roteamento, rastreamento de uso e caminhos de início rápido sem chave para testes imediatos. Voltado para desenvolvedores e usuários de codificação de IA, reduz o esforço de lidar com muitos SDKs e chaves de provedores durante o desenvolvimento de agentes.
Agrega muitos modelos hospedados e expõe ferramentas nativas do MCP para agentes
freellmpool opera como um servidor MCP que cataloga mais de 24 provedores e mais de 400 modelos de chat enquanto expõe ferramentas especializadas como 'ask', 'battle' e 'recipe' para clientes de IA. A ferramenta inclui adaptadores para mensagens no estilo Codex e Anthropic e lista compatibilidade com clientes compatíveis com MCP, por exemplo, Claude Desktop e Cursor.
- Catálogo de provedores: 24+ provedores
- Catálogo de modelos: 400+ modelos de chat
- Alvos de agentes: agentes de codificação como Claude Code, Cursor
Lógica de roteamento e cooldown preserva o fluxo de solicitações, mas depende da disponibilidade externa
Failover automático e roteamento redirecionam solicitações quando um provedor retorna erros de limite de taxa ou fica offline, e a ferramenta aplica um cooldown inteligente que suspende provedores que atingem limites para evitar erros 429 repetidos. O rastreamento de uso monitora o consumo diário para que a carga seja distribuída; a continuidade, portanto, melhora em relação a configurações de provedor único, enquanto o tempo de atividade real e a taxa de transferência permanecem atrelados aos serviços gratuitos agrupados.
Integração de baixo setup para experimentos, com limites práticos para cargas de trabalho sustentadas
Instalação e integração visam experimentação rápida: a ferramenta é instalada via Python (pip), suporta uso de CLI em plataformas desktop e fornece um proxy compatível com OpenAI/Anthropic para que o software existente aceite o endpoint local sem alterações de código. O quickstart sem chave oferece acesso imediato a certos provedores, e os usuários podem adicionar suas próprias chaves para cotas mais altas. Como agrega camadas gratuitas, a ferramenta é adequada para prototipagem e testes de agentes, em vez de execuções de produção garantidas e de alto volume.
Escolha prática para experimentação, menos adequada para garantia de produção contínua
freellmpool é uma opção prática para desenvolvedores e usuários de codificação de IA que precisam de acesso rápido a muitos modelos hospedados através de um único ponto final local; o comportamento e a disponibilidade do modelo refletem os provedores upstream, então espere variabilidade ligada a esses níveis gratuitos. Trate as saídas como respostas de modelos upstream e complemente com chaves de provedores se capacidade sustentada ou garantias de uptime mais rigorosas forem necessárias.
