Cập nhật hạ tầng lớn sắp ra mắt: quan hệ đối tác tiếp tục nhằm tối ưu hóa SGLang DeepSeek R1 trên nền tảng NVIDIA's GB200 NVL72.



Sự hợp tác này tập trung vào việc đẩy giới hạn hiệu suất suy luận với phần cứng tăng tốc tiên tiến. Kiến trúc GB200 NVL72 mang lại sức mạnh tính toán đáng kể, trở thành lựa chọn tự nhiên cho các mô hình lý luận nâng cao.

Điều gì thú vị ở đây? Khung công tác của SGLang kết hợp với khả năng của DeepSeek R1 có thể mở khóa các mức hiệu quả mới cho các hoạt động AI quy mô lớn. Nền tảng NVIDIA cung cấp sức mạnh thô cần thiết để xử lý các khối lượng công việc suy luận phức tạp.

Đối với những ai theo dõi sự phát triển hạ tầng AI trong lĩnh vực crypto và Web3, loại tối ưu hóa này rất quan trọng. Các bộ máy suy luận tốt hơn đồng nghĩa với các hoạt động nhanh hơn, rẻ hơn, từ phân tích on-chain đến hệ thống giao dịch tự động.

Quá trình phát triển công nghệ tiếp tục.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 8
  • Đăng lại
  • Retweed
Bình luận
0/400
FOMOmonstervip
· 12-12 08:01
gb200 nvl72 这硬件堆料真疯狂,deepseek r1 跑在这上面估计起飞了 sglang 优化这块确实有意思,on-chain 那边应该爽死了 又一波基础设施军备竞赛,谁能率先用上谁就赢 推理速度起来了成本才能下来,这对 ai 交易系统太关键了 nvidia 又一次定义了游戏规则啊
Trả lời0
BearMarketMonkvip
· 12-11 01:50
gb200 đó chip cực kỳ đỉnh, đúng là đỉnh thật, chỉ là giá cả quá phi lý thôi
Xem bản gốcTrả lời0
BlockchainRetirementHomevip
· 12-11 01:49
gb200那块硬件确实猛,但真正跑起来会不会又是另一回事... DeepSeek这波操作还是有点东西的,推理成本降低了交易机器人也能便宜点跑 nvlink堆料是堆料,就看sglang能不能真的吃透...有时候瓶颈反而在软件层 这种基建优化乍一看没啥声音,但对链上数据处理和ai trading的边际成本降低是实打实的
Xem bản gốcTrả lời0
Layer2Observervip
· 12-11 01:49
Liên quan đến chip GB200 này, nếu thật sự có thể chạy ra, thì chi phí suy luận trên chuỗi có thể giảm một nửa không? Hiện tại cứ mỗi lần query là vài đồng, hơi phi lý chút.
Xem bản gốcTrả lời0
GasGasGasBrovip
· 12-11 01:46
gb200 thật sự xuất sắc, đợt này deepseek phối hợp cùng nvdia có thể sẽ bùng nổ --- Hiệu suất suy luận được đẩy lên tối đa, chi phí giao dịch trên chuỗi cần giảm mạnh --- ngl đây mới là hình dạng của hạ tầng cơ sở, chứ không phải ngày ngày phồng phồng --- Thật sự cải thiện hiệu năng so với những dự án ảo, hoàn toàn khác nhau rồi --- Chờ đã, liệu có phải AI trên chuỗi thực sự sắp đến rồi không --- Phần cứng được đầu tư như thế này, chi phí có thể giảm không? Đó mới là vấn đề --- deepseek nhịp độ này được rồi, luôn làm những việc thực chất
Xem bản gốcTrả lời0
GlueGuyvip
· 12-11 01:35
gb200 lại tiếp tục gây chuyện, lần này sự kết hợp giữa deepseek và nvidia có thể tạo ra những điều gì đặc biệt đây?
Xem bản gốcTrả lời0
BagHolderTillRetirevip
· 12-11 01:31
gb200 thật sự có thể mang lại lợi ích không, cảm giác phần nói quá nhiều
Xem bản gốcTrả lời0
ProtocolRebelvip
· 12-11 01:27
gb200 liệu có thực sự là điểm đột phá về công suất tính toán tiếp theo không, hay chỉ là một chiêu trò marketing nữa
Xem bản gốcTrả lời0
  • Ghim