Update README.md
Browse files
README.md
CHANGED
|
@@ -38,7 +38,7 @@ base_model_id="llm-jp/llm-jp-3-13b"
|
|
| 38 |
# 本アダプタのID
|
| 39 |
adapter_id="waiyanan/llm-jp-3-13b-automulti-unsloth-it-r64-lr1e4-ep1_lora"
|
| 40 |
# Huggingfaceトークン
|
| 41 |
-
hf_token
|
| 42 |
|
| 43 |
# unslothのFastLanguageModelで元のモデルをロード。
|
| 44 |
dtype = None # Noneにしておけば自動で設定
|
|
@@ -59,7 +59,8 @@ model = PeftModel.from_pretrained(model, adapter_id, token=hf_token)
|
|
| 59 |
|
| 60 |
|
| 61 |
```python
|
| 62 |
-
|
|
|
|
| 63 |
prompt = "こんにちは！よろしくお願いいたします。"
|
| 64 |
|
| 65 |
FastLanguageModel.for_inference(model)
|
|
@@ -81,7 +82,7 @@ import json
|
|
| 81 |
|
| 82 |
datasets = []
|
| 83 |
# elyza-tasks-100-TV.jsonのファイルパス
|
| 84 |
-
file_path
|
| 85 |
# 最大出力トークン数
|
| 86 |
max_token = 1024
|
| 87 |
|
|
@@ -107,7 +108,7 @@ for _, r in tqdm(df.iterrows(),total=len(df)):
|
|
| 107 |
|
| 108 |
# 結果をjsonlで保存。
|
| 109 |
|
| 110 |
-
ourput_file_path =
|
| 111 |
|
| 112 |
with open(ourput_file_path, 'w', encoding='utf-8') as f:
|
| 113 |
for result in results:
|
|
|
|
| 38 |
# 本アダプタのID
|
| 39 |
adapter_id="waiyanan/llm-jp-3-13b-automulti-unsloth-it-r64-lr1e4-ep1_lora"
|
| 40 |
# Huggingfaceトークン
|
| 41 |
+
hf_token=<有効なHuggingfaceトークン>
|
| 42 |
|
| 43 |
# unslothのFastLanguageModelで元のモデルをロード。
|
| 44 |
dtype = None # Noneにしておけば自動で設定
|
|
|
|
| 59 |
|
| 60 |
|
| 61 |
```python
|
| 62 |
+
# 最大出力トークン数
|
| 63 |
+
max_token = 1024
|
| 64 |
prompt = "こんにちは！よろしくお願いいたします。"
|
| 65 |
|
| 66 |
FastLanguageModel.for_inference(model)
|
|
|
|
| 82 |
|
| 83 |
datasets = []
|
| 84 |
# elyza-tasks-100-TV.jsonのファイルパス
|
| 85 |
+
file_path =<path_to_input_file>
|
| 86 |
# 最大出力トークン数
|
| 87 |
max_token = 1024
|
| 88 |
|
|
|
|
| 108 |
|
| 109 |
# 結果をjsonlで保存。
|
| 110 |
|
| 111 |
+
ourput_file_path = <path_to_output_file>
|
| 112 |
|
| 113 |
with open(ourput_file_path, 'w', encoding='utf-8') as f:
|
| 114 |
for result in results:
|