Palo Alto Networks-CEO Arora: tokenkosten moeten dalen voor grootschalige AI-adoptie

Arora zegt in een gesprek met CNBC dat een efficiëntieverbetering van 54% een goede start is, maar verdere verbetering nodig is. Binnen 12 maanden moeten de tokenkosten volgens de topman dalen tot 20% en uiterlijk het jaar erna met 90%. Stijgende tokenkosten vormen een groot probleem voor bedrijven en leggen een zware druk op AI-budgets. De huidige prijzen maken het voor bedrijven moeilijk om AI-tools te implementeren.

Goedkopere alternatieven zijn in trek

Vorige week werd het tokenmodel van Anthropic en OpenAI nog bekritiseerd, waarbij open-weight modellen genoemd als mogelijk alternatief. Door de hoge tokenkosten kiezen steeds meer bedrijven voor goedkopere alternatieven, waaronder Chinese modellen die snel de kloof met Amerikaanse labs dichten.

Arora verwacht dat de markt zich zal aanpassen aan de uitgaven of dat bedrijven zich zullen aanpassen aan de markt. Naarmate de technologie efficiënter wordt, zullen de budgets afnemen. De vraag naar AI blijft oneindig, wat op den duur zal leiden tot een rationalisatie van de kosten.