Información clave
Investigadores de Apple han introducido un sistema llamado Minions, que transforma Macs inactivos en una nube de GPU virtual para gestionar cargas de trabajo de IA internas. Al distribuir las tareas a través de una red de máquinas, el sistema reduce significativamente los tiempos de espera para los trabajos de IA que anteriormente enfrentaban colas de más de 10 horas, completándolos a menudo en cuestión de minutos.
La arquitectura utiliza un modelo de ejecución basado en extracción que consta de un servidor Minion, un ejecutor y un vigilante (Watchdog). Las tareas se dividen en subtareas almacenadas en una base de datos PostgreSQL, que los Macs individuales recuperan a través de APIs REST. Cada Mac procesa su subtarea asignada localmente utilizando Apple Silicon para la inferencia de IA, manejando específicamente incrustaciones o generación de texto a través de Ollama.
La fiabilidad es gestionada por un vigilante que monitorea los latidos cada cinco minutos. Si una máquina se desconecta o un usuario reclama su dispositivo, las subtareas inacabadas se devuelven a la cola.
Aunque el sistema ofrece cero costos de infraestructura y escalado orgánico, los investigadores señalan que no tiene en cuenta el desgaste del hardware ni el consumo de electricidad. Actualmente limitado al uso interno, Minions aborda las preocupaciones de Apple con respecto a los recursos informáticos limitados y los cuellos de botella en la cadena de suministro. La investigación futura tiene como objetivo extender este marco al entrenamiento de modelos distribuidos, con el potencial de federar de forma segura el hardware inactivo en comunidades globales para crear un grupo de GPU compartido.
