A mesura que les aplicacions d'intel·ligència artificial (IA) continuen expandint-se, els costos operatius dels centres de dades també augmenten. Segons The Wall Street Journal, alguns centres de dades dels Estats Units s'han vist obligats a augmentar els preus dels seus clients per fer front a les despeses addicionals que comporta la IA. Mentrestant, les dades indiquen que la demanda de centres de dades a gran escala i centres de dades allotjats està augmentant ràpidament, mentre que la demanda de capacitat dels centres de dades creats per a empreses està relativament disminuint.
Els centres de dades s'enfronten a pressions de costos no només pel consum d'energia, sinó també per la capacitat de processament, els xips avançats, els reptes de la cadena de subministrament i la tecnologia d'IA. El Wall Street Journal informa que "les aplicacions d'IA consumeixen més energia que el programari tradicional perquè necessiten processar més dades. En pocs dies, un sol model d'IA pot consumir desenes de milers de quilowatts-hora d'electricitat. Models d'IA generativa, com ara la tecnologia utilitzada al chatbot ChatGPT d'OpenAI consumeix 100 vegades més que les eines estàndard d'IA". A més, els costos en construcció, mà d'obra i serveis públics augmenten contínuament.
L'augment dels costos del centre de dades correspon a la ràpida expansió del mercat de serveis al núvol. Segons dades de Synergy Research Group, la despesa empresarial en serveis al núvol ha crescut a un ritme anual d'aproximadament un 42 per cent durant l'última dècada, passant dels 10.000 milions de dòlars el 2012 als 227.000 milions de dòlars el 2022. En canvi, la despesa en maquinari i programari del centre de dades. per empreses ha crescut només al voltant del 2 per cent anual.
Synergy Research Group també proporciona dades de distribució sobre l'ús de la capacitat global del centre de dades. El 2022, els centres de dades a gran escala representaven el 37 per cent de la capacitat total del centre de dades global, en comparació amb només el 17 per cent el 2017. Els centres de dades a gran escala es refereixen a aquelles grans instal·lacions operades o llogades per gegants de serveis al núvol com Amazon, Microsoft, i Google. La meitat d'aquests són centres de dades propis i l'altra meitat són centres de dades llogats. Les instal·lacions allotjades no a gran escala representen el 23 per cent de la quota. Mentrestant, els centres de dades creats per a empreses tenien una quota del 40% el 2022, una disminució significativa respecte al 60% del 2017.
Synergy Research Group preveu que durant els propers cinc anys, "si bé la proporció de centres de dades construïts per empreses en la capacitat total disminuirà en més de dos punts percentuals cada any, la seva capacitat real només disminuirà lleugerament. La proporció d'instal·lacions allotjades en total la capacitat es mantindrà relativament estable". La companyia també preveu que el 2027, els centres de dades a gran escala representaran més del 50 per cent de la quota de capacitat, mentre que els centres de dades creats per a empreses disminuiran a menys del 30 per cent.