Ifølge Financial Times har det blitt avholdt et hastemøte da Amazon, som sa opp 30 000 mennesker i fjor, nå står overfor konsekvensene av å bruke AI til kompleks koding. Avisen fikk tilsendt et internt notat, som avslører at alt ikke er bra, samt e-postmateriale, med Dave Treadwell, senior VP som forfatter av enten notatet eller en av e-postene, og ber om at senioringeniører nå må overse og godkjenne eventuelle kodeendringer som er gjort ved hjelp av AI.
Amazon hadde et møte for å undersøke hvorfor systemene deres har krasjet, eller "strømbrudd" som det kalles, og senioringeniørene ble bedt om å finne ut hvorfor. Generativ AI tar noe av skylden, og i en direkte e-post til de ansatte innrømmer selskapet direkte problemer med "tilgjengelighet til nettstedet og relatert infrastruktur". Dette inkluderte mer enn 10 000 kunder som ikke kunne betale fra nettstedet, appen fungerte ikke og krasjet rett og slett, og Amazon Web Services har angivelig sporet sitt eget 13 timer lange krasj til bruken av AI-koding, og det var ikke det eneste. Ifølge Financial Times skyldtes dette faktisk AI, nemlig Amazons egen Kiro-kodingsrobot. Amazon gikk ut med en uttalelse som fullstendig benektet dette, og skyldte i stedet på enkle menneskelige feil.
Bransjeanalytikere har påpekt at problemene oppstår når AI ikke lenger bare er et verktøy for å assistere, men aktivt gjør endringer som koster selskaper som Amazon mye penger, eller bruker mye menneskelig arbeidstid, som AI-systemet Claude, som ved flere anledninger, noen av dem helt nylig, har utslettet hele databaser på et brøkdels sekund uten å vurdere konsekvensene.