'Amazon ging per ongeluk 860% over budget door AI-inzet bij programmeren'

Een aantal senior engineers zijn dinsdag met collega's in gesprek gegaan over de inzet van AI, stellen de ingewijden. Er bleken namelijk meerdere incidenten waarbij AI-modellen werden ingezet voor programmeerwerk, wat leidde tot 'onverwachte uitgaven'. 

Zo was er een incident waarbij AI-model Claude Sonnet van Anthropic auteursgegevens moest koppelen aan producten in de webshop van Amazon. Het bedrijf gaf daar 1,8 miljoen dollar aan uit, ook al mislukte de implementatie. Dat was een budgetoverschrijding van 860%. De budgetoverschrijding werd bovendien pas na vijf maanden ontdekt. 

De engineers benadrukken dat dit geen geisoleerd incident is. Bij de ontwikkeling van financiële auditing-tools werden ruim 541.000 dollar aan extra kosten gemaakt. En bij een incident waarbij AI gebruikt werd om leveringssnelheiden in het logistieke netwerk te verbeteren, werd per ongeluk 134.000 dollar extra uitgegeven. Het duurde twee weken voor die uitgave werd opgemerkt. 

De engineers waarschuwen dan ook dat programmeerfouten die vroeger vrijwel niets kosten, extreem duur kunnen worden als AI-modellen worden ingezet om taken af te handelen. Zij werken nu aan 'geautomatiseerde' vangrails voor toekomstige projecten en diverse andere maatregelen, om te zorgen dat de kosten voortaan beperkt blijven, zeggen de ingewijden.