Saltar al contenido
MZGrid

Ecosistema

Ejecuta el stack de IA de código abierto que ya usas.

MZGrid es infraestructura, no un jardín vallado. Las cargas de trabajo son contenedores estándar y los endpoints de inferencia hablan la API de OpenAI, así que las herramientas de abajo funcionan sin configuración adicional.

Los proyectos que aparecen aquí son software de código abierto independiente compatible con MZGrid. Su inclusión no implica ninguna asociación, respaldo ni afiliación.

01

Servicio y entornos de ejecución

Los motores sobre los que se construyen nuestras plantillas.

vllm-openai

vLLM

Servicio de LLM de alto rendimiento con PagedAttention, batching continuo y cuantización FP8/AWQ.

En MZGrid: Impulsa todas las plantillas de LLM, incluidas llama-3.1-8b, llama-3.3-70b, qwen2.5-32b y la plantilla genérica vllm-openai.

Empezar
pytorch-jupyter

PyTorch

El framework estándar para entrenar y hacer fine-tuning de modelos de deep learning.

En MZGrid: La plantilla pytorch-jupyter incluye PyTorch 2.5 con CUDA 12.4 en un JupyterLab protegido por token.

Empezar
sdxl-comfyui

ComfyUI

Pipelines de difusión basados en nodos para generar y editar imágenes.

En MZGrid: La plantilla sdxl-comfyui precarga SDXL y FLUX.1-schnell y expone la interfaz y la API de ComfyUI.

Empezar
whisper-large-v3

Whisper

Modelos abiertos de reconocimiento de voz y traducción.

En MZGrid: La plantilla whisper-large-v3 sirve una API de transcripción a la que puedes llamar desde cualquier cliente HTTP.

Empezar

02

Modelos y empaquetado

Trae los pesos y contenedores desde donde ya están.

Modelos de Hugging Face

El mayor repositorio de modelos abiertos: Llama, Qwen, Mistral, Gemma, modelos de embeddings y más.

En MZGrid: Pasa cualquier ID de modelo compatible a la plantilla vllm-openai; los pesos se descargan en el proveedor al arrancar.

Empezar
custom-docker

Docker

El formato de contenedor en el que se ejecuta cada carga de trabajo de MZGrid.

En MZGrid: Usa custom-docker para servicios de larga duración o batch para trabajos que se ejecutan hasta completarse. Las imágenes se ejecutan sin red del host ni modo privilegiado.

Empezar

03

Frameworks de aplicaciones

El código de tu app no necesita saber que está hablando con MZGrid.

Clientes compatibles con OpenAI

Los SDK oficiales de OpenAI para Python y TypeScript, y cualquier herramienta que hable la misma API.

En MZGrid: Configura base_url con el endpointUrl de tu trabajo + /v1. Chat completions, completions, embeddings y streaming funcionan tal cual.

Empezar

LangChain

Un framework para crear aplicaciones y agentes basados en LLM.

En MZGrid: Usa la integración ChatOpenAI con base_url apuntando a tu endpoint de MZGrid.

Empezar

LlamaIndex

Un framework de datos para generación aumentada por recuperación sobre tus documentos.

En MZGrid: Configura las clases de LLM y de embeddings OpenAILike con la URL de tu endpoint de MZGrid.

Empezar

Subvenciones para el ecosistema y desarrolladores

¿Estás construyendo algo sobre MZGrid?

El 15 % del suministro de MZG está reservado para subvenciones al ecosistema y a desarrolladores, liberado de forma lineal durante 36 meses. Cuéntanos qué estás construyendo en el canal #builders de Discord: damos prioridad a las integraciones, plantillas, herramientas e investigación que hacen la red más útil.