DataPilot commited on
Commit
94b1c87
·
verified ·
1 Parent(s): bfd3c28
Files changed (1) hide show
  1. README.md +52 -0
README.md CHANGED
@@ -1,3 +1,55 @@
1
  ---
2
  license: apache-2.0
 
 
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: apache-2.0
3
+ inference: false
4
+ language: ja
5
  ---
6
+
7
+ ## 概要
8
+ 「LOCAL AI HACKATHON」における、チームDataPilot初めての成果品です。Line社が開発した「japanese-large-lm-3.6b-instruction-sft」をウィキブックの内容をもとに中学範囲にてファインチューニングを行いました。なお"JHSVer"とはJunior High School Versionの頭文字となります。
9
+
10
+ ## how to use
11
+
12
+ ```python
13
+ import torch
14
+ from transformers import AutoModelForSequenceClassification
15
+ from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline #transformerとtorchがインストールされていることを前提とします。
16
+
17
+ model = AutoModelForCausalLM.from_pretrainedmodel = AutoModelForCausalLM.from_pretrained("DataPilot/ArrowSmartPlus_3.6B_instant_sft_JSHVer")
18
+ tokenizer = AutoTokenizer.from_pretrained("DataPilot/ArrowSmartPlus_3.6B_instant_sft_JSHVer")
19
+
20
+ generator = pipeline("text-generation", model=model, tokenizer=tokenizer, device=0)
21
+
22
+ torch.cuda.empty_cache()
23
+
24
+ input_text = """有機物とは"""
25
+ text = generator(
26
+ f"ユーザー: {input_text} システム: ",
27
+ max_length = 100,
28
+ do_sample = True,
29
+ temperature = 0.7,
30
+ top_p = 0.9,
31
+ top_k = 0,
32
+ repetition_penalty = 1.1,
33
+ num_beams = 1,
34
+ pad_token_id = tokenizer.pad_token_id,
35
+ num_return_sequences = 1,
36
+ )
37
+
38
+ print(text)
39
+
40
+ ```
41
+
42
+ ## トークン化:
43
+
44
+ ユニグラム言語モデルとバイトフォールバックを備えたセンテンスピーストークナイザー(sentencepiece tokenizer)を使用します。日本語トークナイザーによる事前トークン化は適用されません。したがって、ユーザーは生の文をトークナイザーに直接フィードできます。
45
+
46
+ ## ライセンス:
47
+ 当LLMはオープンソースソフトウェアです。詳しくは下記のリンクをご覧ください。
48
+ https://www.apache.org/licenses/LICENSE-2.0
49
+
50
+ ## 謝辞:
51
+ 機材を貸していただいた Witnessさん 、このような機会を与えてくださった さるどらさん 、その他助言を与えてくださった「ローカルLLMに向き合う会」のみなさま、そしてすべてのステークホルダーの皆様に感謝を申し上げます。
52
+
53
+ witnessさん:https://twitter.com/i_witnessed_it
54
+ さるどらさん:https://twitter.com/sald_ra
55
+ ローカルLLMに向き合う会:https://discord.com/invite/VuYCYkYaHK