Red Hat brengt AI-portfolio uit met Chatterbox Labs

De overname volgt op een jaar van ontwikkelingen binnen Red Hat AI, waaronder de introductie van Red Hat AI Inference Server en de lancering van Red Hat AI 3. Klanten wereldwijd gebruiken deze oplossingen voor generatieve, voorspellende en agentic AI-toepassingen. Naarmate organisaties AI-systemen opschalen naar productie, groeit de behoefte aan betrouwbare en veilige modellen. Beveiliging en guardrails worden hierdoor essentieel voor moderne machine learning operations (MLOps).

Door de technologie van Chatterbox Labs te integreren, ontstaat een uniform platform met ingebouwde veiligheidsmaatregelen. Dit stelt Red Hat in staat organisaties beter te ondersteunen bij het in productie nemen van AI-workloads, ongeacht het model, de accelerator of de omgeving.

Onbedoelde gevolgen van AI aanpakken

Chatterbox Labs, opgericht in 2011, brengt expertise in AI-veiligheid en transparantie. Het bedrijf levert geautomatiseerde, op maat gemaakte beveiligings- en veiligheidstesten met risicometrics die besluitvormers helpen bij het goedkeuren van AI-toepassingen. De technologie omvat:

• AIMI for gen AI, voor onafhankelijke risicometrics bij large language models (LLM’s);
• AIMI for predictive AI, voor het testen van AI-architecturen op robuustheid, eerlijkheid en uitlegbaarheid;
• Guardrails die onveilige, toxische of bevooroordeelde prompts identificeren en mitigeren voordat modellen in productie gaan.

Beveiliging van de volgende generatie AI-workloads

De overname sluit aan bij de visie van Red Hat om diverse modellen en implementatiescenario’s in hybride clouds te ondersteunen. Het versterkt ook de mogelijkheden van Red Hat AI 3, met name op het gebied van agentic AI en Model Context Protocol (MCP). Naarmate organisaties agentic AI omarmen wordt vertrouwen in veilige modellen belangrijker, omdat AI-agents autonome rollen aannemen met directe invloed op kritieke systemen.

Chatterbox Labs deed onderzoek naar holistische beveiliging van agents, waaronder het monitoren van antwoorden en het detecteren van MCP-serveracties. Dit past binnen de roadmap van Red Hat voor Llama Stack en MCP-ondersteuning. Door de MLOps-capaciteiten van Red Hat te combineren met de guardrails van Chatterbox Labs, kunnen organisaties hun AI-investeringen met meer vertrouwen operationaliseren.

‘Security for AI’‑laag

“Organisaties brengen AI in een razend tempo van het lab naar productie, waardoor de urgentie voor betrouwbare, veilige en transparante AI‑implementaties toeneemt. De innovatieve, model‑agnostische veiligheidstesten en guardrail‑technologie van Chatterbox Labs vormen precies die cruciale ‘security for AI’‑laag waar de markt behoefte aan heeft. Door Chatterbox Labs te integreren in het Red Hat AI‑portfolio versterken we onze belofte van een compleet, open source-platform dat onze klanten in staat stelt om elk model in elke omgeving te draaien met vanaf het begin ingebouwde veiligheid. Deze overname helpt om écht verantwoorde, productieklare AI op schaal mogelijk te maken”, zegt Steven Huels, vice president, AI Engineering and Product Strategy bij Red Hat.

Stuart Battersby, Ph.D., medeoprichter en Chief Technology Officer, Chatterbox Labs: “Naarmate AI‑systemen doordringen in ieder aspect van de bedrijfsvoering en bredere samenleving, mag veiligheid geen ‘propriëtaire black box’ worden. AI‑guardrails mogen niet louter worden uitgerold; ze moeten rigoureus getest worden met ondersteuning van aantoonbare metrics. Chatterbox Labs is een pionier in dit vakgebied, van de vroege dagen van voorspellende AI tot de agentic systemen van de toekomst. Door aan te sluiten bij Red Hat kunnen we deze gevalideerde, onafhankelijke veiligheidsmetrics naar de open‑sourcegemeenschap brengen. De resulterende transparantie maakt het voor organisaties mogelijk om veiligheid te verifiëren zonder vast te zitten aan één leverancier, en zo een toekomst te realiseren waarin we allemaal kunnen profiteren van veilige, schaalbare en open AI.”