Datasets:

Modalities:
Image
Size:
< 1K
Libraries:
Datasets
License:
xianbao HF staff commited on
Commit
0c1d939
1 Parent(s): 09129c4

Update Thinking Like Transformers-cn.md

Browse files
Files changed (1) hide show
  1. Thinking Like Transformers-cn.md +1 -1
Thinking Like Transformers-cn.md CHANGED
@@ -318,7 +318,7 @@ before & eq
318
  ## 使用注意力机制
319
  给一个注意力选择器,我们可以提供一个序列值做聚合操作。我们通过累加那些选择器选过的真值做聚合。
320
 
321
- (笔记:在原始论文中,他们使用一个平均聚合操作并且展示了一个巧妙的结构,其中平均聚合能够代表总和计算。RASPy 默认情况下使用累加来使其简单化并避免碎片化。实际上,这意味着 raspy 可能低估了所需要的层数。基于平均值的模型可能需要这个层数的两倍)
322
 
323
  注意聚合操作使我们能够计算直方图之类的功能。
324
 
 
318
  ## 使用注意力机制
319
  给一个注意力选择器,我们可以提供一个序列值做聚合操作。我们通过累加那些选择器选过的真值做聚合。
320
 
321
+ (请注意:在原始论文中,他们使用一个平均聚合操作并且展示了一个巧妙的结构,其中平均聚合能够代表总和计算。RASPy 默认情况下使用累加来使其简单化并避免碎片化。实际上,这意味着 raspy 可能低估了所需要的层数。基于平均值的模型可能需要这个层数的两倍)
322
 
323
  注意聚合操作使我们能够计算直方图之类的功能。
324