Kontrowersyjne słowa w podcaście: „Komputery stoją bezczynnie”

Wszystko zaczęło się od wywiadu, którego szef OpenAI udzielił w podcaście Cheeky Pint. W trakcie rozmowy Altman poruszył temat globalnej infrastruktury IT i rosnących trudności w pozyskiwaniu komponentów do budowy nowoczesnych serwerowni. To właśnie wtedy padło sformułowanie, które błyskawicznie obiegło media społecznościowe.

Lider branży AI zwrócił uwagę na dysproporcję w wykorzystaniu zasobów sprzętowych. Zauważył, że Przeciętny domowy komputer czy laptop wykorzystuje swoje pełne moce obliczeniowe zaledwie przez ułamek doby – szacunkowo przez około 5 proc. czasu. Przez pozostałe 95 proc. potężne kości RAM, szybkie dyski SSD i karty graficzne po prostu pobierają prąd w trybie czuwania lub pozostają całkowicie wyłączone.

Altman zestawił to z centrami danych pracującymi na potrzeby modeli językowych i sztucznej inteligencji, które pracują bez przerwy na najwyższych obrotach. W jego ocenie utrzymywanie gigantycznych zasobów pamięci operacyjnej na rynku konsumenckim, w dobie ogólnoświatowego kryzysu dostaw, jest ekonomicznie i technologicznie nieefektywne.