Memandangkan aplikasi kecerdasan buatan (AI) terus berkembang, kos operasi pusat data juga semakin meningkat. Menurut The Wall Street Journal, beberapa pusat data di Amerika Syarikat telah dipaksa untuk menaikkan harga untuk pelanggan mereka untuk menampung perbelanjaan tambahan yang dibawa oleh AI. Sementara itu, data menunjukkan bahawa permintaan untuk pusat data berskala besar dan pusat data yang dihoskan meningkat dengan pesat, manakala permintaan kapasiti untuk pusat data binaan perusahaan agak berkurangan.
Pusat data menghadapi tekanan kos bukan sahaja daripada penggunaan kuasa tetapi juga daripada kapasiti pemprosesan, cip termaju, cabaran rantaian bekalan dan teknologi AI. Wall Street Journal melaporkan, "Aplikasi AI menggunakan lebih banyak tenaga daripada perisian tradisional kerana mereka perlu memproses lebih banyak data. Dalam masa beberapa hari, satu model AI boleh menggunakan tenaga elektrik berpuluh ribu kilowatt-jam. Model AI Generatif, seperti teknologi yang digunakan dalam chatbot ChatGPT OpenAI, menggunakan 100 kali lebih banyak daripada alatan AI standard." Selain itu, kos dalam pembinaan, buruh dan utiliti terus meningkat.
Sejajar dengan peningkatan kos pusat data adalah pengembangan pesat pasaran perkhidmatan awan. Menurut data daripada Synergy Research Group, perbelanjaan perusahaan untuk perkhidmatan awan telah berkembang pada kadar tahunan kira-kira 42 peratus sepanjang dekad yang lalu, meningkat daripada $10 bilion pada 2012 kepada $227 bilion pada 2022. Sebaliknya, perbelanjaan untuk perkakasan dan perisian pusat data oleh perusahaan telah berkembang pada kira-kira 2 peratus sahaja setiap tahun.
Synergy Research Group juga menyediakan data pengedaran mengenai penggunaan kapasiti pusat data global. Pada 2022, pusat data berskala besar menyumbang 37 peratus daripada jumlah kapasiti pusat data global, berbanding hanya 17 peratus pada 2017. Pusat data berskala besar merujuk kepada kemudahan besar yang dikendalikan atau dipajak oleh gergasi perkhidmatan awan seperti Amazon, Microsoft, dan Google. Separuh daripada ini adalah pusat data milik sendiri, dan separuh lagi adalah pusat data yang dipajak. Kemudahan yang dihoskan bukan berskala besar menyumbang 23 peratus daripada bahagian. Sementara itu, pusat data yang dibina perusahaan memegang 40 peratus bahagian pada 2022, penurunan ketara daripada 60 peratus pada 2017.
Synergy Research Group meramalkan bahawa dalam tempoh lima tahun akan datang, "sementara bahagian pusat data yang dibina perusahaan dalam jumlah kapasiti akan berkurangan lebih daripada dua mata peratusan setiap tahun, kapasiti sebenar mereka hanya akan berkurangan sedikit. Perkadaran kemudahan yang dihoskan secara keseluruhan kapasiti akan kekal stabil." Syarikat itu juga meramalkan bahawa menjelang 2027, pusat data berskala besar akan menyumbang lebih daripada 50 peratus bahagian kapasiti, manakala pusat data yang dibina perusahaan akan berkurangan kepada kurang daripada 30 peratus .