Update llama系列模型.md

01.大语言模型简介/llama系列模型/llama系列模型.md

@@ -67,7 +67,7 @@ $$
 
 ![](image/image_6g6JVd5GoX.png)
 
-LLaMA中直接将FFN中的ReLU替换为SwiGLU，并将维度放缩为$(2/3) ⋅ 4d$
+LLaMA中直接将FFN中的ReLU替换为SwiGLU，并将维度放缩为$(2/3) ⋅ 4d$。这样设计的原因是：维度放缩为 $(2/3) ⋅ 4d$ 后，其计算复杂度为 $(112/9) ⋅ d^3 + (8/3) ⋅ d$ ，普通的 $4d$ 纬度的计算复杂度为 $20  ⋅ d^3$ 。
 
 ## 1.4 旋转位置嵌入（RoPE）