马斯克宣布开源Grok-2 最强开源模型问世

2周前 (08-25)热点话题5

  马斯克宣布开源Grok-2 最强开源模型问世!马斯克终于开源了Grok-2。xAI正式宣布向所有人开放Grok-2,并预告Grok-3将在6个月后开源。Grok-2于2024年完成训练,体积超过500GB,其混合专家(MoE)架构在Grok-1的基础上进行了改进。

  此次开源包括Grok-2的核心部分,技术特点如下:总参数量高达9050亿,在推理时每次激活其中的1360亿参数,使其成为目前最强大的开源模型之一;支持高达131,072 token的上下文长度,可以一次性处理非常长的文档或对话历史;采用混合专家架构,可以在不增加巨大计算成本的前提下大幅扩展模型规模;预训练数据覆盖了大量的文本和代码,截止到2024年初。

  

  关于开源权限,当关联公司年收入低于一百万美元时,才可用于商业用途,超过此门槛的商业用途需获得xAI的单独许可。除非协议条款允许对Grok 2进行修改或微调,否则不得使用材料、衍生品或输出来训练、创建或改进任何基础、大型语言或通用人工智能模型。

  现在,Grok-2已在Hugging Face上开放下载。用户可以通过SGLang部署,下载权重文件并启动服务器。下载过程中可能会遇到一些错误,需要多次重试直到成功。下载完成后,该文件夹下应包含42个文件,总大小约500GB。启动服务器需要安装最新版的SGLang推理引擎,并使用正确的对话模板发送请求。

  网友XFreeze表示,xAI的发展速度极其惊人,仅用122天建成并全面投入运营的孟菲斯巨像数据中心配备了100,000块英伟达H100 GPU热点话题。短短两年内,xAI凭借Grok 4的发布,以极其精简的团队登顶全球最强人工智能之巅。黄仁勋曾称这是“超人”之举,只有马斯克能做到。有网友认为,这一切就像在实时观看一个科幻梦想成真,真正达到了创新的巅峰。预计5年内,xAI将打造出5000块H100巨无霸超算,老马自信满满地表示,xAI很快就能超越谷歌以外的所有对手。马斯克宣布开源Grok-2 最强开源模型问世

“马斯克宣布开源Grok-2 最强开源模型问世” 的相关文章

五一怎么花小钱玩得好 5个小窍门助你省钱游

五一怎么花小钱玩得好 5个小窍门助你省钱游

  五一小长假将至,今年五一劳动节共有5天假期,适合全家进行一次短途旅行。外出游玩时,可能会遇到交通拥堵或景区人满为患的情况,这会让很多游客感到不快。如何利用好小长假,让家人玩得开心又省钱...

江西已开启人海模式 “五一”出游人气旺

江西已开启人海模式 “五一”出游人气旺

  “五一”假期,江西迎来了旅游热潮。不少知名景区开启了“人山人海”模式,江西省博物馆和美术馆都挤满了游客。在八一广场,来自全国各地的游客和市民朋友齐聚一堂,共同见证五星红旗冉冉升起,感受...

女生手机自动连上酒店WIFI被分手 认知差距引发热议

女生手机自动连上酒店WIFI被分手 认知差距引发热议

  随着科技的不断发展,许多事物的发展超出了人们的想象。比如现在的人工智能技术,已经达到了普通人难以想象的程度。因此,在遇到问题时,不要过于武断,因为有些事物的发展已经超出了我们的认知。...

广州南汽车站将提供夜间返程兜底服务 保障深夜抵穗旅客出行

广州南汽车站将提供夜间返程兜底服务 保障深夜抵穗旅客出行

  广州南汽车站及公交站场在5月4日至5日期间提供夜间返程兜底服务,班车运营时间将根据客流情况延长至22:00。具体收班时间会根据现场实际客流情况进行灵活调整。   ...

五一档票房背后的思考 类型片与技术的较量

五一档票房背后的思考 类型片与技术的较量

  五一档首日票房破亿,创下新纪录。5月1日上午9点,北京朝阳万达影城取票机前已排起长龙。截至5月2日13时38分,2025年五一档总票房(含预售)突破3.07亿元,较2019年同期增长1...

希尔德0罚33分成NBA历史首人 抢七大战创纪录

希尔德0罚33分成NBA历史首人 抢七大战创纪录

  在NBA季后赛首轮的抢七大战中,勇士队客场以103-89战胜火箭队,成功晋级第二轮,接下来将对阵森林狼。   ...