Update Thinking Like Transformers-cn.md
Browse files
Thinking Like Transformers-cn.md
CHANGED
@@ -318,7 +318,7 @@ before & eq
|
|
318 |
## 使用注意力机制
|
319 |
给一个注意力选择器,我们可以提供一个序列值做聚合操作。我们通过累加那些选择器选过的真值做聚合。
|
320 |
|
321 |
-
(
|
322 |
|
323 |
注意聚合操作使我们能够计算直方图之类的功能。
|
324 |
|
|
|
318 |
## 使用注意力机制
|
319 |
给一个注意力选择器,我们可以提供一个序列值做聚合操作。我们通过累加那些选择器选过的真值做聚合。
|
320 |
|
321 |
+
(请注意:在原始论文中,他们使用一个平均聚合操作并且展示了一个巧妙的结构,其中平均聚合能够代表总和计算。RASPy 默认情况下使用累加来使其简单化并避免碎片化。实际上,这意味着 raspy 可能低估了所需要的层数。基于平均值的模型可能需要这个层数的两倍)
|
322 |
|
323 |
注意聚合操作使我们能够计算直方图之类的功能。
|
324 |
|