马斯克正在打开桌子，开放资源的最强模型诞生了，Grok-2令人惊讶地发布！马斯克终于打开了Grok-2的来源。 Xai正式宣布向所有人开放Grok-2，并宣布Grok-3将在6个月内成为公开资源。 Grok-2在2024年完成了培训，并拥有超过500GB的培训。它的混合专家体系结构根据Grok-1有所改善。此开放资源的主要部分包括模型权重和体系结构。 GROK-2的技术属性非常众所周知：参数总数高达9000亿，每次理解时都会激活1360亿个参数，使其成为当今最强大的开放资源模型之一。它支持上下文长度长达131,072个代币，并将同时是Ableal文档或通信历史记录。此外，Grok-2采用了混合专家体系结构，可以大大扩展量表并提高模型功能而不增加大型计算NG成本。培训前数据涵盖了大量的文本和代码，直到2024年初。关于开放资源许可，出于商业目的有多个门槛：只有当关联公司的年收入少于100万美元时才能使用商业目标；超过此阈值的商业目标需要与XAI单独的许可证。材料，衍生工具或产出不可用来训练，创建或改善任何主要的，大型语言或一般AI模型，除非协议的条款更改或维修Grok2。Grok-2是正式开放的资源，可以在Embrace Face上下载。下载方法是通过sglang部署并下载权重文件。如果下载成功，则文件夹必须包含42个文件，总尺寸约为500GB。要启动服务器，您需要安装最新版本的SGLANG推理引擎（版本≥v0.5.1），并使用特定命令启动推理服务器。此调整reqUIRES 8 GPU（每个视频内存大于40GB）。发送请求时，您需要使用正确的对话模板。