Microsoft koupil mnoho grafických karet pro služby AI. Nyní máme tisíce grafických karet, ale chybí elektřina a infrastruktura. Problém, který Microsoft sdílí s mnoha dalšími poskytovateli.

Poptávka po aplikacích a službách AI vede k silnému růstu potřeby grafických karet a počítačových čipů, které dokážou uspokojit poptávku.

Satya Nadella, šéf Microsoftu, ale v rozhovoru vysvětlil, že to nebyl ten největší problém: protože potřebujete také infrastrukturu a energii, abyste vůbec mohli využívat výpočetní kapacitu. Problém, který momentálně má.

Šéf Microsoftu říká: problém není výpočetní výkon, ale napájení

Tohle řekla Nadella: Satya Nadella v rozhovoru pro podcast Bg2 Pod s generálním ředitelem OpenAI Samem Altmanem řekl, že Microsoft v současné době fyzicky uchovává řadu čipů AI, ale nemůže je připojit kvůli nedostatku vhodných datových center, napájecích a chladicích systémů.

Komentáře uvedl na YouTube v reakci na otázku moderátora Bg2 Pod Brada Gerstnera o tom, zda Nadella a Altman souhlasí s generálním ředitelem Nvidie Jensenem Huangem, který řekl, že v příštích dvou až třech letech neexistuje žádná šance na přetížení výpočetní kapacity:

Myslím, že v tomto konkrétním případě nelze skutečně předvídat cykly nabídky a poptávky, že? Jde o to: jaký je dlouhodobý trend? Dlouhodobým trendem je to, co řekl Sam (CEO OpenAI), což je, že v konečném důsledku, zcela upřímně, největším problémem, který teď máme, není přebytek výpočetního výkonu, ale napájení – schopnost dokončit sestavení dostatečně rychle blízko napájení.

Pokud to nedokážete, můžete mít na skladě spoustu čipů, které nemohu připojit. To je vlastně můj dnešní problém. Nejde o problém napájení čipu, ale o to, že nemám teplé shelly[=předvybavenéserverovérackysdostatečnýmnapájenímachlazením)kekterýmbychsemohlpřipojit[=vorgerüstetenServer-RacksmitausreichenderStromversorgungundKühlung)zumAnschließenhabe

Mnoho datových center má problém, že není dostatek energie pro jejich zásobování

Současná krize je relevantní napříč odvětvím: do podobných úzkých míst narážejí i další poskytovatelé velkých datových center (tzv. hyperscalery) a zkoumají, jak mohou spojit růst výpočetního výkonu AI s infrastrukturou a dodávkami energie (přes kontronn.com).

Nadella hovoří o „krizi hustoty energie“, tedy krizi, kdy datová centra vyžadují mnohem více elektřiny na metr čtvereční než dříve, ale sítě a budovy ji nedokážou dodat. Řešení vyžaduje masivní investice do energetických sítí, chlazení a datových center a také technologické inovace v čipech, aby byly o něco ekonomičtější.

Nvidia vydělává miliardy z AI čipů a grafických karet potřebných pro datová centra. Jensen Huang, šéf výrobce grafických karet Nvidia, v rozhovoru na Hong Kong University of Science & Technology vysvětlil, že dnešní systémy AI často dávají odpovědi, které nejsou optimální. Zdůraznil, že uživatelé by se měli neustále ptát, zda je odpověď AI „halucinující“ nebo dává smysl: Nvidia vydělává miliardy s AI, nyní generální ředitel říká: Bude trvat roky, než budeme moci AI věřit.