DeepSeek新模型曝光 Model1核心演进方向揭晓

5个月前 (01-21)热点话题11

  DeepSeek新模型曝光 Model1核心演进方向揭晓!1月21日,DeepSeek-R1在GitHub上的代码提交疑似剧透了DeepSeek的下一代模型。开发者发现,DeepSeek旗下的FlashMLA优化库近期迎来了一波密集更新。

  

  在一堆C++代码中出现了一个从未见过的代号“Model1”。与以往的小修小补不同,代码逻辑将Model1置于了与当前旗舰V3.2完全独立的平行分支。技术社区普遍认为这是下一代大模型DeepSeek-V4的内部开发代号。根据对相关代码提交的解读,Model1展示了DeepSeek下一代技术架构的几个核心演进方向。

  

  在架构层面,Model1回归到512维。DeepSeek V3曾以独特的576维非对称MLA惊艳四座,这在当时是为了极致压缩KV Cache的非常规手段。但在Model1中,head_dim参数被重新设定为512维。这一回归标准的动作能更完美地对齐GPU的Tensor Core计算特性。DeepSeek可能已经找到了无需依赖非标维度也能实现高压缩率的新方法热点话题,或许是代码中提及的Engram机制,从而换取更高的计算通用性。

  

  此外,Model1的代码库中出现了大量针对SM100,即英伟达最新算力硬件NVIDIA Blackwell B200的专用接口。这表明DeepSeek或许基本完成了对2026年旗舰显卡的指令集适配。测试数据显示,Model1的稀疏算子在B200上的算力利用率已达350 TFlops,显示出其准备充分。

  

  代码中还出现了FP8格式的KV Cache支持,并引入了test_flash_mla_sparse_decoding测试脚本。这意味着DeepSeek正在将MLA机制从“全量计算”进化为“Token级稀疏计算”,允许模型在处理超长上下文时动态忽略不重要的Token,从而在显存占用和推理速度上实现数量级的优化。

  DeepSeek曾在2025年1月20日发布R1模型,开启了新的开源LLM时代。今天是R1发布一周年,Model1有望给AI领域带来新的变化。DeepSeek新模型曝光 Model1核心演进方向揭晓

“DeepSeek新模型曝光 Model1核心演进方向揭晓” 的相关文章

肖战新剧小城良方新路透 全网女粉DNA动了

  肖战和姜妍新剧《小城良方》的拥抱路透曝光后,全网女粉丝激动不已。画面中,肖战温柔低头,姜妍面带浅笑,两人氛围感十足,戳中了无数少女心,评论区一片沸腾。   ...

传奇设计师瓦伦蒂诺去世 时尚界痛失巨匠

  传奇设计师瓦伦蒂诺去世 时尚界痛失巨匠!意大利华伦天奴基金会19日发布公告,宣布知名时尚设计师瓦伦蒂诺·加拉瓦尼在罗马去世,享年93岁。瓦伦蒂诺1932年5月出生于意大利帕维亚省沃盖拉...

A股融资余额时隔两周首降 两融市场降温

  证券时报力求信息真实准确,但文章内容仅供参考,不构成实质性投资建议,据此操作风险自担。下载“证券时报”官方APP或关注官方微信公众号,可随时了解股市动态、洞察政策信息、把握财富机会。...

通富微电2025年净利同比预增超62% 业绩显著增长

  通富微电(002156.SZ)于1月20日发布了2025年度业绩预告,预计归属于上市公司股东的净利润为110,000万元至135,000万元,同比增长62.34%至99.24%。公司在...

同花顺2025净利同比预增50%至80% 加大AI投入推动增长

  同花顺于1月20日发布业绩预告,预计2025年归母净利润将达到27.35亿元至32.82亿元,同比增长50%至80%。公司在人工智能等领域的投入不断增加,推进产品与大模型技术的融合创新...

U23国足赢了!决赛对阵日本! 挺进决赛士气高昂

  北京时间1月21日,2026年U23亚洲杯半决赛结束,中国U23以3-0的比分击败越南U23,成功晋级决赛。决赛中,中国U23将对阵日本U23。   ...