Новини з CoinWorld: дослідження Tianfeng Securities вказує на те, що для подолання обмежень обчислювальної потужності та "стінки зберігання" з'явилася технологічна парадигма "зберігати замість обчислювати" як революційне рішення. Ця технологія реалізує стратегічне розширення зберігання з пам'яті на SSD, переміщуючи векторні дані (такі як KVCache) з дорогих DRAM та HBM пам'яті на великі, економічно вигідні SSD носії, а не просто замінюючи їх. Її основна цінність полягає в значному зниженні затримки першого токена, підвищенні пропускної здатності інфери, а також значній оптимізації витрат на енд-ту-енд інфери, що забезпечує реальний шлях для масштабного впровадження AI. Революція зберігання AI вже відбулася, "зберігати замість обчислювати" сприяє основним можливостям, значно знижуючи споживання обчислювальної потужності та прискорюючи інфери, що призводить до зростання попиту на SSD, яке перевищує традиційну криву.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Новини з CoinWorld: дослідження Tianfeng Securities вказує на те, що для подолання обмежень обчислювальної потужності та "стінки зберігання" з'явилася технологічна парадигма "зберігати замість обчислювати" як революційне рішення. Ця технологія реалізує стратегічне розширення зберігання з пам'яті на SSD, переміщуючи векторні дані (такі як KVCache) з дорогих DRAM та HBM пам'яті на великі, економічно вигідні SSD носії, а не просто замінюючи їх. Її основна цінність полягає в значному зниженні затримки першого токена, підвищенні пропускної здатності інфери, а також значній оптимізації витрат на енд-ту-енд інфери, що забезпечує реальний шлях для масштабного впровадження AI. Революція зберігання AI вже відбулася, "зберігати замість обчислювати" сприяє основним можливостям, значно знижуючи споживання обчислювальної потужності та прискорюючи інфери, що призводить до зростання попиту на SSD, яке перевищує традиційну криву.