AI-belofte Gimlet Labs haalt miljoenen op bij Menlo Ventures
Gimlet Labs, een speler op het gebied van AI-inferentiesoftware, heeft vandaag een Series A-financieringsronde van 80 miljoen dollar aangekondigd. De ronde werd geleid door Menlo Ventures. Het bedrijf wil hiermee een fundamenteel probleem in de AI-sector oplossen: de enorme inefficiëntie en traagheid van huidige datacenters die volledig afhankelijk zijn van één type hardware.
Slechts vijf maanden nadat Gimlet Labs uit de anonimiteit trad, kan het bedrijf al indrukwekkende cijfers overleggen. De klantenkring is in die korte tijd verdrievoudigd en omvat nu een van de top drie AI-labs ter wereld, evenals een van de drie grootste 'hyperscalers'. Ook werkt het bedrijf samen met chipgiganten als NVIDIA, AMD, Intel en ARM, maar ook met uitdagers zoals Cerebras en d-Matrix.
De bottleneck van intelligentie
Volgens Zain Asgar, medeoprichter en CEO van Gimlet Labs, is de snelheid van AI-intelligentie de grootste flessenhals van dit moment geworden. "Om de volgende prestatieverbetering van 10 tot 100 keer te realiseren — denk aan autonome programmeer-agenten — moeten we afstappen van het idee dat alles op dezelfde chip moet draaien," aldus Asgar.
De huidige AI-infrastructuur leunt zwaar op homogene hardware (meestal alleen GPU's), maar die nadert volgens Gimlet zijn grenzen qua latentie en stroomverbruik. Terwijl de industrie zich opmaakt voor 650 miljard dollar aan investeringen in datacenters, blijft een groot deel van de rekenkracht onbenut door inefficiënte software.
De eerste ‘Multi-Silicon’ Cloud
De oplossing van Gimlet Labs is de eerste en enige multi-silicon inference cloud. De eigen softwarestack verdeelt AI-taken automatisch over verschillende soorten hardware: van traditionele GPU's en CPU's tot gespecialiseerde SRAM-architecturen.
De technologie kan zelfs een enkel AI-model 'opknippen' en verschillende delen ervan gelijktijdig uitvoeren op verschillende chip-architecturen, afhankelijk van wat voor dat specifieke deel het meest efficiënt is. Volgens Gimlet levert dit een snelheidsverhoging van 3 tot 10 keer op, tegen dezelfde kosten en met hetzelfde stroomverbruik.
"Onvermijdelijke heterogeniteit"
Investeerders zien Gimlet Labs als de ontbrekende laag in de huidige AI-stack. "De wereld was gebouwd voor een homogene wereld, en de industrie betaalt daar honderden miljarden voor aan kapitaaluitgaven," zegt Tim Tully, partner bij Menlo Ventures. "Gimlet heeft de enige infrastructuur gebouwd die vanaf de grond is ontworpen om heterogeniteit te omarmen."
Met de nieuwe kapitaalinjectie van 80 miljoen dollar (wat het totaal opgehaalde bedrag op 92 miljoen dollar brengt) gaat Gimlet Labs het team uitbreiden en de eigen cloudcapaciteit razendsnel opschalen. Hiermee wil het bedrijf voldoen aan de urgente vraag van frontier labs naar snellere en vooral groenere AI-prestaties op schaal.
Meer over ai
Over Witold Kepinski
