DeepSeek新模型曝光 Model1核心演进方向揭晓

7个月前 (01-21)热点话题15

  DeepSeek新模型曝光 Model1核心演进方向揭晓!1月21日,DeepSeek-R1在GitHub上的代码提交疑似剧透了DeepSeek的下一代模型。开发者发现,DeepSeek旗下的FlashMLA优化库近期迎来了一波密集更新。

  

  在一堆C++代码中出现了一个从未见过的代号“Model1”。与以往的小修小补不同,代码逻辑将Model1置于了与当前旗舰V3.2完全独立的平行分支。技术社区普遍认为这是下一代大模型DeepSeek-V4的内部开发代号。根据对相关代码提交的解读,Model1展示了DeepSeek下一代技术架构的几个核心演进方向。

  

  在架构层面,Model1回归到512维。DeepSeek V3曾以独特的576维非对称MLA惊艳四座,这在当时是为了极致压缩KV Cache的非常规手段。但在Model1中,head_dim参数被重新设定为512维。这一回归标准的动作能更完美地对齐GPU的Tensor Core计算特性。DeepSeek可能已经找到了无需依赖非标维度也能实现高压缩率的新方法热点话题,或许是代码中提及的Engram机制,从而换取更高的计算通用性。

  

  此外,Model1的代码库中出现了大量针对SM100,即英伟达最新算力硬件NVIDIA Blackwell B200的专用接口。这表明DeepSeek或许基本完成了对2026年旗舰显卡的指令集适配。测试数据显示,Model1的稀疏算子在B200上的算力利用率已达350 TFlops,显示出其准备充分。

  

  代码中还出现了FP8格式的KV Cache支持,并引入了test_flash_mla_sparse_decoding测试脚本。这意味着DeepSeek正在将MLA机制从“全量计算”进化为“Token级稀疏计算”,允许模型在处理超长上下文时动态忽略不重要的Token,从而在显存占用和推理速度上实现数量级的优化。

  DeepSeek曾在2025年1月20日发布R1模型,开启了新的开源LLM时代。今天是R1发布一周年,Model1有望给AI领域带来新的变化。DeepSeek新模型曝光 Model1核心演进方向揭晓

“DeepSeek新模型曝光 Model1核心演进方向揭晓” 的相关文章

无人机除雪生意火爆 飞手:干不完 降雪带动需求激增

  近两日,河南、安徽、江苏、湖北等多省出现降雪。对于蔬菜塑料大棚和车间厂房来说,除雪成为当务之急,无人机除雪生意随之变得火爆。   ...

男子三次盗窃女友家中黄金67克 获刑三年四个月

  近日,中国裁判文书网公布了一起江苏涟水法院审理的案件。一名男子多次在女友家中盗窃共67克黄金,被判盗窃罪,获刑三年四个月,并处罚金一万五千元。   ...

通富微电2025年净利同比预增超62% 业绩显著增长

  通富微电(002156.SZ)于1月20日发布了2025年度业绩预告,预计归属于上市公司股东的净利润为110,000万元至135,000万元,同比增长62.34%至99.24%。公司在...

消费贷贴息新政“加速度”!怎么办?5家银行连夜发指引

  2026年1月20日,财政部、中国人民银行、金融监管总局联合发布《关于优化实施个人消费贷款财政贴息政策有关事项的通知》(财金〔2026〕1号),明确延长政策实施期限、扩大贴息范围、调整...

黑草莓种植难度大产量低 高价背后的稀缺体验

  黑草莓种植难度大产量低 高价背后的稀缺体验。在电商平台上,一种颜色深紫近黑的草莓悄然走红,单斤售价高达300元,被称为“水果新贵”或“莓中爱马仕”。这种草莓名为“真红美玲”,因富含花青...

挪官员称主权基金目前没理由退出美 继续看好美国市场

  挪官员称主权基金目前没理由退出美 继续看好美国市场。挪威财政大臣延斯·斯托尔滕贝格在接受采访时表示,挪威规模达2.1万亿美元的主权财富基金目前没有理由从美国撤回投资。他认为,挪威央行投...