95% потужності корпоративних GPU зараз просто без діла.


Це число взято з Cast AI, який виміряв 23 000 реальних виробничих кластерів, а не з загального опитування.
Середнє використання становило 5%, і це трапляється саме в той момент, коли Nvidia підвищила ціну H200 на 15%, перше підвищення за 20 років. Апаратура, яку всі вважають дефіцитною, здебільшого нічого не робить.
Якщо ви намагаєтеся зрозуміти, чому обчислювальні ресурси здаються майже недосяжними, ось чому. Ніхто не повертає виділення, на яке чекали місяцями. Тому флот залишається на рівні 5%, оплачуючися за годину, і дефіцит сам себе підсилює. Це здається швидше збоями у координації, ніж проблемою з постачанням.
Переглянути оригінал
post-image
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено