Atualização importante de infraestrutura a ser lançada: a parceria continua na otimização do SGLang DeepSeek R1 na plataforma GB200 NVL72 da NVIDIA.



Esta colaboração concentra-se em ultrapassar os limites de desempenho de inferência com aceleramento de hardware de ponta. A arquitetura GB200 NVL72 oferece uma potência de cálculo séria, tornando-se uma escolha natural para modelos avançados de raciocínio.

O que é interessante aqui? A estrutura do SGLang combinada com as capacidades do DeepSeek R1 pode desbloquear novos níveis de eficiência para operações de IA em larga escala. A plataforma NVIDIA fornece o potência bruta necessária para lidar com cargas de trabalho complexas de inferência.

A evolução da pilha tecnológica continua.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • 8
  • Repostar
  • Compartilhar
Comentário
0/400
FOMOmonstervip
· 12-12 08:01
gb200 nvl72 Esta montagem de hardware é realmente insana, o deepseek r1 rodando nisso deve ter decolado sglang A otimização nesta área é realmente interessante, deve estar ótimo na parte on-chain Mais uma rodada de corrida armamentista de infraestrutura, quem puder usar primeiro ganha A velocidade de raciocínio precisa aumentar para que os custos possam diminuir, isso é fundamental para sistemas de negociação AI nvidia Mais uma vez definiu as regras do jogo
Ver originalResponder0
BearMarketMonkvip
· 12-11 01:50
O chip gb200 é incrível, é mesmo incrível, só que o preço é bastante absurdo.
Ver originalResponder0
BlockchainRetirementHomevip
· 12-11 01:49
a peça de hardware gb200 é realmente poderosa, mas será que na prática funciona de forma diferente... a operação do DeepSeek ainda tem algum potencial, o custo de inferência caiu, e o trading bot pode rodar de forma mais econômica nvlink é basicamente hardware, só depende se o sglang consegue realmente dominá-lo... às vezes o gargalo está no software essa otimização de infraestrutura à primeira vista pode parecer pouco impactante, mas na verdade reduz significativamente os custos marginais de processamento de dados na cadeia e de AI trading
Ver originalResponder0
Layer2Observervip
· 12-11 01:49
Se o chip GB200 realmente conseguir funcionar, será que o custo de inferência na blockchain pode ser reduzido pela metade? Atualmente, fazer uma consulta custa várias yuans de uma só vez, o que é um pouco absurdo.
Ver originalResponder0
GasGasGasBrovip
· 12-11 01:46
gb200 realmente incrível, esta onda do deepseek junto com a Nvidia vai decolar --- O desempenho de raciocínio foi levado ao máximo, o custo de transação na cadeia deve diminuir drasticamente --- Ngl, esta é a verdadeira aparência da infraestrutura, não ficar só de blá-blá-blá --- O verdadeiro aumento de desempenho vs aqueles projetos vazios, são coisas completamente diferentes --- Espera aí, isso não significa que a IA na cadeia realmente está chegando rápido --- Equipar hardware assim, será que os custos podem diminuir? Essa é a questão --- Deepseek nesse ritmo, ótimo trabalho em fazer coisas concretas
Ver originalResponder0
GlueGuyvip
· 12-11 01:35
gb200 voltou a fazer confusão, desta vez qual será a surpresa da combinação do deepseek com a Nvidia?
Ver originalResponder0
BagHolderTillRetirevip
· 12-11 01:31
O gb200 realmente é eficaz? Parece que há mais exagero do que fatos.
Ver originalResponder0
ProtocolRebelvip
· 12-11 01:27
gb200 será realmente o próximo ponto de viragem na capacidade de hashing ou é apenas mais uma estratégia de marketing e hype
Ver originalResponder0
  • Marcar
Negocie criptomoedas a qualquer hora e em qualquer lugar
qrCode
Escaneie o código para baixar o app da Gate
Comunidade
Português (Brasil)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)