changed input ids to tokens
Browse files- ref_seg_ger.py +1 -1
ref_seg_ger.py
CHANGED
|
@@ -232,7 +232,7 @@ class RefSeg(datasets.GeneratorBasedBuilder):
|
|
| 232 |
input_ids.append(input_id[0])
|
| 233 |
labels.append('O')
|
| 234 |
elif len(tokens) == 1:
|
| 235 |
-
input_ids.append(tokens[0])
|
| 236 |
if row['tag'] == 'O':
|
| 237 |
labels.append(row['tag'])
|
| 238 |
else:
|
|
|
|
| 232 |
input_ids.append(input_id[0])
|
| 233 |
labels.append('O')
|
| 234 |
elif len(tokens) == 1:
|
| 235 |
+
input_ids.append(tokens[0][0])
|
| 236 |
if row['tag'] == 'O':
|
| 237 |
labels.append(row['tag'])
|
| 238 |
else:
|