Update README.md
Browse files
README.md
CHANGED
@@ -25,6 +25,7 @@ This llama model was trained 2x faster with [Unsloth](https://github.com/unsloth
|
|
25 |
1.ファインチューニングした本モデルを使用して推論するモデルとトークナイザを読み出すコードの例を以下に示します。
|
26 |
|
27 |
from unsloth import FastLanguageModel
|
|
|
28 |
model_name = "SusumuDou/llm-jp-3-13b-finetune-2"
|
29 |
|
30 |
max_seq_length = 2048
|
@@ -41,13 +42,14 @@ model, tokenizer = FastLanguageModel.from_pretrained(
|
|
41 |
|
42 |
FastLanguageModel.for_inference(model)
|
43 |
|
44 |
-
2.上記1の推論モデルとトークナイザを使って推論した
|
45 |
|
46 |
-
|
47 |
|
48 |
-
(1)
|
49 |
|
50 |
datasets = []
|
|
|
51 |
with open("/content/drive/MyDrive/LLM_2024/最終課題/elyza-tasks-100-TV_0.jsonl", "r") as f:
|
52 |
|
53 |
item = ""
|
|
|
25 |
1.ファインチューニングした本モデルを使用して推論するモデルとトークナイザを読み出すコードの例を以下に示します。
|
26 |
|
27 |
from unsloth import FastLanguageModel
|
28 |
+
|
29 |
model_name = "SusumuDou/llm-jp-3-13b-finetune-2"
|
30 |
|
31 |
max_seq_length = 2048
|
|
|
42 |
|
43 |
FastLanguageModel.for_inference(model)
|
44 |
|
45 |
+
2.上記1の推論モデルとトークナイザを使って推論したoutput.jsonlの出力方法を以下に示します。
|
46 |
|
47 |
+
モデルに推論させる入力ファイル:LLM_2024/最終課題/elyza-tasks-100-TV_0.jsonl
|
48 |
|
49 |
+
(1) 入力ファイルの読み込みコード
|
50 |
|
51 |
datasets = []
|
52 |
+
|
53 |
with open("/content/drive/MyDrive/LLM_2024/最終課題/elyza-tasks-100-TV_0.jsonl", "r") as f:
|
54 |
|
55 |
item = ""
|