Cloudflare vereenvoudigt wereldwijde implementatie AI-toepassingen

Ondanks de vooruitgang op het gebied van AI-innovatie, is er nog steeds een kloof tussen het potentieel en de waarde die het bedrijven biedt. Organisaties en hun ontwikkelaars moeten snel en betaalbaar kunnen experimenteren en itereren, zonder dat ze GPU's of infrastructuur hoeven op te zetten, te beheren of te onderhouden. Bedrijven hebben behoefte aan een eenvoudig platform dat toegang geeft tot snelheid, beveiliging, prestaties, observeerbaarheid en compliance, om innovatieve, productieklare applicaties sneller naar hun klanten te brengen.

Workers AI is beschikbaar met GPU's in ruim 150 steden

Workers AI is nu algemeen beschikbaar en biedt de 'end-to-end' infrastructuur die nodig is om AI-modellen efficiënt en betaalbaar te schalen en in te zetten voor de volgende generatie AI-toepassingen. Cloudflare heeft GPU's geïmplementeerd in ruim 150 steden wereldwijd, onlangs nog in Kaapstad, Durban, Johannesburg en Lagos voor de eerste locaties in Afrika, evenals Amman, Buenos Aires, Mexico City, Mumbai, New Delhi en Seoul. Deze maken AI-inference met lage latentie mogelijk in de hele wereld. Workers AI breidt zich ook uit om gefinetunede modellen te ondersteunen, waardoor organisaties meer gespecialiseerde, domeinspecifieke toepassingen kunnen ontwikkelen en implementeren.

Als aanvulling op Workers AI biedt Cloudflare's AI Gateway een 'control plane' voor AI-applicaties, waarmee ontwikkelaars dynamisch verzoeken kunnen evalueren en routeren naar verschillende modellen en providers. Dat stelt ontwikkelaars in staat data te gebruiken voor finetuning en deze workloads direct op het Workers AI-platform uit te voeren.

"De populariteit van generatieve AI heeft ervoor gezorgd dat bedrijven in verschillende sectoren enorme hoeveelheden tijd en geld investeren in AI. Sommige toepassingen zullen werken, maar de grote uitdaging van AI is dat de demo makkelijk is, maar het in productie nemen is ongelooflijk complex", zegt Matthew Prince, CEO en medeoprichter van Cloudflare. "Wij kunnen dit oplossen door de kosten en complexiteit van het ontwikkelen van AI-apps weg te reduceren. Workers AI is een van de meest betaalbare en toegankelijke oplossingen om inferentie uit te voeren. Met Hugging Face en Cloudflare die op één lijn zitten om AI op een eenvoudige, betaalbare manier te democratiseren, geven we ontwikkelaars de vrijheid en flexibiliteit om een model te kiezen en hun AI-apps in een handomdraai van nul naar wereldwijd te schalen."

Nu Workers AI algemeen beschikbaar is, kunnen ontwikkelaars AI-modellen met één klik direct vanuit Hugging Face implementeren, voor de snelste manier om toegang te krijgen tot een verscheidenheid aan modellen en inferentie-aanvragen uit te voeren op Cloudflare's wereldwijde netwerk van GPU's. Ontwikkelaars kunnen een van de populaire open source-modellen kiezen en hoeven vervolgens alleen maar te klikken op "Deploy to Cloudflare Workers AI" om een model direct te kunnen gebruiken. Er zijn momenteel 14 gecureerde Hugging Face-modellen geoptimaliseerd voor Cloudflare's wereldwijde serverloze inferentieplatform, met ondersteuning voor drie verschillende taakcategorieën, waaronder tekstgeneratie, inbeddingen en zinsgelijkenis.

"Wij zijn verheugd om AI samen met Cloudflare toegankelijker te maken voor ontwikkelaars", aldus Julien Chaumond, medeoprichter en chief technology officer van Hugging Face. "Het aanbieden van de meest populaire open modellen met een serverloze API, aangedreven door een wereldwijde vloot van GPU's, is een geweldige propositie voor de Hugging Face community. Ik kan niet wachten om te zien wat ze ermee gaan ontwikkelen."