Pular para o conteúdo
MZGrid

Ecossistema

Roda a stack de IA open source que você já usa.

O MZGrid é infraestrutura, não um jardim murado. As cargas de trabalho são contêineres padrão e os endpoints de inferência falam a API da OpenAI, então as ferramentas abaixo funcionam de imediato.

Os projetos listados aqui são softwares open source independentes e compatíveis com o MZGrid. A inclusão deles não implica parceria, endosso ou afiliação.

01

Serving e runtimes

Os motores sobre os quais nossos templates são construídos.

vllm-openai

vLLM

Serving de LLM de alto throughput com PagedAttention, batching contínuo e quantização FP8/AWQ.

No MZGrid: Alimenta todos os templates de LLM, incluindo llama-3.1-8b, llama-3.3-70b, qwen2.5-32b e o template genérico vllm-openai.

Comece agora
pytorch-jupyter

PyTorch

O framework padrão para treinar e fazer fine-tuning de modelos de deep learning.

No MZGrid: O template pytorch-jupyter traz PyTorch 2.5 com CUDA 12.4 em um JupyterLab protegido por token.

Comece agora
sdxl-comfyui

ComfyUI

Pipelines de difusão baseados em nós para geração e edição de imagens.

No MZGrid: O template sdxl-comfyui pré-carrega SDXL e FLUX.1-schnell e expõe a interface e a API do ComfyUI.

Comece agora
whisper-large-v3

Whisper

Modelos abertos de reconhecimento de fala e tradução.

No MZGrid: O template whisper-large-v3 serve uma API de transcrição que você pode chamar de qualquer cliente HTTP.

Comece agora

02

Modelos e empacotamento

Traga pesos e contêineres de onde eles já estão.

Modelos do Hugging Face

O maior hub de modelos abertos — Llama, Qwen, Mistral, Gemma, modelos de embedding e muito mais.

No MZGrid: Passe qualquer ID de modelo compatível para o template vllm-openai; os pesos são baixados no provedor durante a inicialização.

Comece agora
custom-docker

Docker

O formato de contêiner em que toda carga de trabalho do MZGrid é executada.

No MZGrid: Use custom-docker para serviços de longa duração ou batch para jobs que rodam até a conclusão. As imagens rodam sem rede do host e sem modo privilegiado.

Comece agora

03

Frameworks de aplicação

O código do seu app não precisa saber que está falando com o MZGrid.

Clientes compatíveis com OpenAI

Os SDKs oficiais da OpenAI para Python e TypeScript e qualquer ferramenta que fale a mesma API.

No MZGrid: Defina base_url como o endpointUrl do seu job + /v1. Chat completions, completions, embeddings e streaming funcionam sem alterações.

Comece agora

LangChain

Um framework para criar aplicações e agentes baseados em LLM.

No MZGrid: Use a integração ChatOpenAI com base_url apontando para o seu endpoint MZGrid.

Comece agora

LlamaIndex

Um framework de dados para geração aumentada por recuperação (RAG) sobre os seus documentos.

No MZGrid: Configure as classes de LLM e de embedding OpenAILike com a URL do seu endpoint MZGrid.

Comece agora

Grants para o ecossistema e desenvolvedores

Está construindo algo no MZGrid?

15% da oferta de MZG está reservada para grants do ecossistema e de desenvolvedores, liberados linearmente ao longo de 36 meses. Conte o que você está construindo no canal #builders do Discord — integrações, templates, ferramentas e pesquisas que tornem a rede mais útil são prioridade.