Pclanglais commited on
Commit
090cca8
·
verified ·
1 Parent(s): cadf77d

Upload tokenizer.json

Browse files
Files changed (1) hide show
  1. tb-json/tokenizer.json +6 -6
tb-json/tokenizer.json CHANGED
@@ -78,7 +78,7 @@
78
  "single": [
79
  {
80
  "SpecialToken": {
81
- "id": "[CLS]",
82
  "type_id": 0
83
  }
84
  },
@@ -92,7 +92,7 @@
92
  "pair": [
93
  {
94
  "SpecialToken": {
95
- "id": "[SEP]",
96
  "type_id": 0
97
  }
98
  },
@@ -104,7 +104,7 @@
104
  },
105
  {
106
  "SpecialToken": {
107
- "id": "[SEP]",
108
  "type_id": 1
109
  }
110
  },
@@ -116,10 +116,10 @@
116
  }
117
  ],
118
  "special_tokens": {
119
- "[SEP]": {
120
- "id": "[SEP]",
121
  "ids": [2],
122
- "tokens": ["[SEP]"]
123
  }
124
  }
125
  }
 
78
  "single": [
79
  {
80
  "SpecialToken": {
81
+ "id": "<|begin_of_text|>",
82
  "type_id": 0
83
  }
84
  },
 
92
  "pair": [
93
  {
94
  "SpecialToken": {
95
+ "id": "<|begin_of_text|>",
96
  "type_id": 0
97
  }
98
  },
 
104
  },
105
  {
106
  "SpecialToken": {
107
+ "id": "<|begin_of_text|>",
108
  "type_id": 1
109
  }
110
  },
 
116
  }
117
  ],
118
  "special_tokens": {
119
+ "<|begin_of_text|>": {
120
+ "id": "<|begin_of_text|>",
121
  "ids": [2],
122
+ "tokens": ["<|begin_of_text|>"]
123
  }
124
  }
125
  }