Geen dure servers nodig: 'Minions' draait AI op niet-gebruikte Apple-hardware
Een team van onderzoekers, waaronder Jianhua Li, Yun Xing en Sean Suchter, heeft een distributed cloudplatform ontwikkeld dat onbenutte grafische rekenkracht van Apple Silicon-apparaten bundelt. Het systeem, genaamd 'Minions', transformeert een netwerk van stand-by macOS-systemen tot een dynamische en schaalbare infrastructuur voor het uitvoeren van zware machine learning-taken.
De ontwikkeling komt op een moment dat de wereldwijde vraag naar GPU-capaciteit voor AI-inferentie (het uitvoeren van getrainde AI-modellen) enorm stijgt. Centrale GPU-datacenterinfrastructuur kampt hierdoor steeds vaker met hoge operationele kosten, beperkte elasticiteit en lange wachttijden bij schaarste.
Efficiënt hergebruik van bestaande hardware
Tegelijkertijd beschikken moderne Macs met Apple Silicon-chips (zoals de M-serie) over krachtige geïntegreerde GPU’s. In kantoor- en thuisomgevingen blijven deze rekenkernen gedurende grote delen van de dag onbenut. Minions maakt het mogelijk om deze vrije capaciteit automatisch te aggregeren en in te zetten als één virtuele GPU-cloud.
Het platform biedt ondersteuning voor flexibele taakuitvoering, ingebouwde fouttolerantie en een efficiënt beheer van de beschikbare bronnen. Organisaties kunnen hiermee grootschalige inferentieworkloads draaien op reeds aanwezige hardware, zonder dat aanvullende investeringen in dedicated GPU-servers noodzakelijk zijn.
Praktische oplossing bij capaciteitstekorten
Uit het onderzoek blijkt dat het hergebruiken van niet-actieve macOS-apparaten een praktisch en kostenefficiënt alternatief vormt voor omgevingen waar centrale GPU-bronnen schaars of duur zijn. Met name voor ontwikkelteams die lokaal AI-modellen willen testen of uitrollen, biedt het gedistribueerde model een manier om de bestaande IT-infrastructuur optimaal te benutten.
Meer over chips
Over Witold Kepinski
