幸运的是，在它被删除之前，Jimmy Apples保存了配置，在只有不到「1分钟」的时间窗口！

　　这组参数像是一个基于MoE（Mixture of Experts）混合专家架构的高容量模型，具备以下几个特点：

　　· 36层Transformer，每层可能有MoE路由；· 大规模MoE设置（128个专家，每个token激活4个）；· 词表超过20万，可能支持多语种或代码混合输入；· 上下文窗口为4096，但也有滑动窗口和扩展RoPE，表明模型可能具备处理更长上下文的能力；· 使用RoPE的NTK插值版本，这是许多模型扩展上下文的一种方式（如GPT-4 Turbo使用的方式）；· 注意力头多达64个clash购买节点，但键/值头只有8个，意味着模型用的是是Multi-QueryAttention（MQA）。

　　他不仅也在Hugging Face上发现这个模型，甚至还有一位OpenAI成员点赞了他的爆料推文。