关键信息

Apple研究人员推出了一套名为Minions的系统，旨在将闲置的Mac转化为虚拟GPU云，以管理内部AI工作负载。 通过将任务分配到机器网络中，该系统显著缩短了AI作业的等待时间，使原本需要排队超过10小时的任务能够在几分钟内完成。

该架构采用基于拉取的执行模型，由Minion服务器、执行器（Executor）和监视器（Watchdog）组成。 任务被拆分为存储在PostgreSQL数据库中的子任务，各台Mac通过REST API获取这些任务。 每台Mac利用Apple芯片在本地处理分配的子任务，专门处理通过Ollama进行的嵌入或文本生成任务。

系统的可靠性由每五分钟监控一次心跳的监视器来管理。 如果机器离线或用户收回设备，未完成的子任务将返回队列。

虽然该系统无需基础设施成本且可实现有机扩展，但研究人员指出，它并未考虑硬件磨损或电力消耗问题。 目前Minions仅限于内部使用，旨在解决Apple在计算资源受限和供应链瓶颈方面的担忧。 未来的研究旨在将该框架扩展到分布式模型训练，并有望通过安全地联合全球社区的闲置硬件来创建共享GPU池。

更多详细内容请参阅原文。