2025-12-11 01:21:07

Pembaruan infrastruktur utama sedang diluncurkan: kemitraan berlanjut untuk mengoptimalkan SGLang DeepSeek R1 di platform NVIDIA's GB200 NVL72.

Kolaborasi ini berfokus pada mendorong batas performa inferensi dengan akselerasi perangkat keras terkini. Arsitektur GB200 NVL72 membawa kekuatan komputasi serius, menjadikannya pilihan alami untuk model penalaran tingkat lanjut.

Apa yang menarik di sini? Kerangka kerja SGLang yang dipadukan dengan kemampuan DeepSeek R1 dapat membuka tingkat efisiensi baru untuk operasi AI berskala besar. Platform NVIDIA menyediakan daya mentah yang dibutuhkan untuk menangani beban kerja inferensi yang kompleks.

Evolusi tumpukan teknologi terus berlanjut.

Lihat Asli

Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.

17 Suka

Hadiah
17
8
Posting ulang
Bagikan

Komentar

0/400

FOMOmonster

· 11jam yang lalu

gb200 nvl72 Hardware ini benar-benar gila, deepseek r1 yang berjalan di atasnya diperkirakan akan meluncur sglang optimisasi bagian ini memang menarik, di sisi on-chain pasti sangat menyenangkan Gelombang perlombaan perlengkapan infrastruktur lagi, siapa yang bisa menggunakannya terlebih dahulu akan menang Kecepatan penalaran meningkat, biaya baru bisa turun, ini sangat penting untuk sistem perdagangan AI nvidia sekali lagi mendefinisikan aturan permainan

Lihat AsliBalas0

BearMarketMonk

· 12-11 01:50

gb200 chip itu keren banget, emang keren, cuma harganya jauh banget di luar nalar

Lihat AsliBalas0

BlockchainRetirementHome

· 12-11 01:49

gb200那块 hardware确实猛，但真正跑起来会不会又是另一回事... DeepSeek这波操作还是有点东西的，inference成本下来了交易机器人也能便宜点跑 nvlink堆料是堆料，就看sglang能不能真的吃透...有时候瓶颈反而在软件层这种基建优化乍一看没啥声音，但对链上数据处理和ai trading的边际成本降低是实打实的

Lihat AsliBalas0

Layer2Observer

· 12-11 01:49

Apakah chip GB200 ini benar-benar bisa berjalan, biaya inferensi di chain bisa dipangkas setengahnya? Sekarang sekali query bisa biaya beberapa yuan saja, agak tidak masuk akal.

Lihat AsliBalas0

GasGasGasBro

· 12-11 01:46

gb200真的绝，这波deepseek配合nvdia怕是要起飞 --- Kemampuan penalaran ini langsung maksimal, biaya transaksi di chain harus turun secara signifikan --- ngl inilah yang seharusnya menjadi ciri infrastruktur dasar, bukan cuma omong kosong --- Peningkatan performa yang sesungguhnya vs proyek yang tidak berisi, benar-benar dua hal yang berbeda --- Tunggu dulu, apakah ini berarti AI di chain benar-benar akan segera datang --- Hardware yang dibangun seperti ini, apakah biaya bisa dikurangi? Inilah masalahnya --- deepseek dengan ritme seperti ini memang bagus, selalu melakukan hal yang nyata

Lihat AsliBalas0

GlueGuy

· 12-11 01:35

gb200 kembali berbuat onar, kali ini kombinasi deepseek dengan nvidia bisa menghasilkan inovasi apa ya

Lihat AsliBalas0

BagHolderTillRetire