首页 > 科技创作 > 科技创作 > 英伟达完成DeepSeek-V4全系模型适配,支持百万级上下文与开源部署

英伟达完成DeepSeek-V4全系模型适配,支持百万级上下文与开源部署

发布时间:2026-04-26 20:14:42 来源: 19911111100

四月二十五日,英伟达正式宣布完成对DeepSeek-V4人工智能模型的适配支持。开发者可通过NVIDIA NIM微服务直接并部署该模型,也可基于SGLang或vLLM等主流推理框架开展灵活定制化应用。

DeepSeek-V4-Pro版本具备1.6万亿总参数与490亿激活参数,专为高复杂度推理任务设计;而DeepSeek-V4-版本则配置2840亿总参数与130亿激活参数,聚焦于低延迟、高吞吐的实时应用场景。两款模型均支持百万级Token上下文长度及最高达38.4万Token的单次输出能力,可全面支撑长文本理解、大规模文档解析等关键任务,并以MIT许可证形式开源。

实际部署测试表明,借助vLLM提供的即用型优化方案,开发者可在Blackwell架构B300硬件平台上实现快速启动与高效运行。后续随着Dynamo编译器、NVFP4稀疏精度支持以及CUDA底层内核的持续迭代升级,模型整体推理性能有望进一步增强。

科技创作更多>>

领汇x车胜惠迪合作签约暨领汇汽车集中交付仪式圆满落幕 DeepSeek被曝融资500亿 30万选X9还是梦想家?有娃家庭必看真体验 红旗天工08单电机高功率版现身工信部 动力升级引关注 特斯拉旗舰车型今日停产,弗里蒙特工厂开启Optimus量产时代 新款传祺M6 MAX现身,前脸变化大,换装电子怀挡+悬浮式大屏 硬实力拉满!东风奕派M8入局大六座新能源SUV市场 全系900V配Momenta智驾,预售28.98万起的奥迪E7X怎么选? 尊界S800 Grand Design高定版申报图曝光 金色专属饰条彰显尊贵 利润暴跌超90%!保时捷卖了布加迪 非官方渠道购车风险频发,极氪发布安全声明捍卫用户权益 兰博基尼发布:Fenomeno敞篷版,V12引擎+三电机 空间与智能的较量:四款20万级纯电SUV谁更懂你? 八排气?阿斯顿·马丁Vanquish S谍照曝光,超850马力V12发动机 15万买华为全套智驾+全尺寸大六座SUV,高质价比看华境S就够了 告别双联屏,理想L9 Livis内饰公布,能否再成爆款? 满大街都是新能源SUV,路虎卫士这种燃油硬派越野还值得入手吗? 日产NX8:在合资新能源困局中能否寻到突围之路 充电桩反超加油站,新能源渗透率60.6%,日系合资销量跌回十年前 二代刀片电池上市后,磷酸铁锂和三元锂电池胜负已分! 斯柯达畅销七人座SUVKodiaq特别登场!大棕熊配备升级 DeepSeek正式跨入图文交互时代 同价位该买奥迪还是买小米 百度正式发布文心大模型5.1 华境S让华为全家桶进入15万时代 微信重大更新 电脑版有多个新功能 7.5升/669马力,当经典奔驰C126成为V12“猛兽”,会发生什么? MG 4X将于5月11日开启盲订,最高续航610km,就看价格了 AI“养马”来了 别克威朗降至6.59万起,全系1.5T+184马力,该抄底还是再等等?