技术 | 突破延迟极限：在 NVIDIA Blackwell GPU 上优化 DeepSeek-R1 的性能
近年来，大语言逻辑推理模型取得了显著进步，但也带来了新的部署挑战。其中，因复杂的“思考与逻辑推理”过程而引起的输出序列长度 (OSL) 的加长已成为一大难题。OSL 的加长提高了对 token 间延迟 (Token-to-Token Latency, TTL) 的要求，往往会引发并发限制。在最极端的情况下，实时应用会面临单并发（最小延迟场景）这一特别棘手的问题。 本文将探讨 NVIDIA T
NVIDIA
NVIDIA英伟达企业解决方案 . 2025-07-03 640
产品 | 半导体行业采用 NVIDIA Blackwell 和 CUDA-X 加速设计制造
TSMC、Cadence、西门子、新思科技和 KLA 采用 NVIDIA Blackwell 进行芯片设计和制造。 TSMC、Cadence、KLA、西门子和新思科技正采用 NVIDIA CUDA-X 和 NVIDIA Blackwell 平台来推进半导体制造。 NVIDIA Blackwell GPU、NVIDIA Grace CPU、高速 NVIDIA NVLink 网络架构和交换机，以
NVIDIA
NVIDIA英伟达企业解决方案 . 2025-05-23 1030
NVIDIA Blackwell AI服务器遭短缺 ,预计Q4供应有限
NVIDIA即将推出的 Blackwell AI 产品线可能会遇到一些问题，至少在供应链方面是这样，因为该产品线正面临着各种障碍。众所周知，NVIDIA 的 Blackwell 系列 人工智能产品将通过在产品线中整合新技术和新方法来革新市场。虽然这样做确实有其好处，但也会造成供应链的复杂性，NVIDIA目前就是其中的受害者。 美国银行的一份调查报告称，NVIDIA的 Blackwell 服务
NVIDIA
芯查查资讯 . 2024-08-14 6025
- 1