File size: 2,435 Bytes
cb7c563 94b1c87 cb7c563 94b1c87 5c6deb2 e475fe5 94b1c87 e0bb3da 94b1c87 5c6deb2 94b1c87 5c6deb2 5b8d948 94b1c87 5c6deb2 4654cc4 5c6deb2 4654cc4 5c6deb2 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 |
---
license: apache-2.0
inference: false
language: ja
---
## 概要
「LOCAL AI HACKATHON」における、チームDataPilot,2つめの成果品です。Line社が開発した「japanese-large-lm-3.6b-instruction-sft」をウィキブックの内容をもとに中学範囲にてファインチューニングを行いました。なお"JHSVer"とはJunior High School Versionの頭文字となります。
## how to use
```python
import torch
from transformers import AutoModelForSequenceClassification
from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline #transformerとtorchがインストールされていることを前提とします。
model = AutoModelForCausalLM.from_pretrainedmodel = AutoModelForCausalLM.from_pretrained("DataPilot/ArrowSmartPlus_3.6B_instant_sft_JHSVer")
tokenizer = AutoTokenizer.from_pretrained("DataPilot/ArrowSmartPlus_3.6B_instant_sft_JHSVer")
generator = pipeline("text-generation", model=model, tokenizer=tokenizer, device=0)
torch.cuda.empty_cache()
input_text = """有機物とは"""
text = generator(
f"ユーザー: {input_text} システム: ",
max_length = 100,
do_sample = True,
temperature = 0.7,
top_p = 0.9,
top_k = 0,
repetition_penalty = 1.1,
num_beams = 1,
pad_token_id = tokenizer.pad_token_id,
num_return_sequences = 1,
)
print(text)
```
## トークン化:
ユニグラム言語モデルとバイトフォールバックを備えたセンテンスピーストークナイザー(sentencepiece tokenizer)を使用します。日本語トークナイザーによる事前トークン化は適用されません。したがって、ユーザーは生の文をトークナイザーに直接フィードできます。
## ライセンス：
当LLMはオープンソースソフトウェアです。詳しくは下記のリンクをご覧ください。
https://www.apache.org/licenses/LICENSE-2.0
## 謝辞：
機材を貸していただいた Witnessさん 、このような機会を与えてくださった さるどらさん 、その他助言を与えてくださった「ローカルLLMに向き合う会」のみなさま、そして家族をはじめとしたすべての関係者の皆様に感謝を申し上げます。
witnessさん：
https://twitter.com/i_witnessed_it
さるどらさん：
https://twitter.com/sald_ra
ローカルLLMに向き合う会：
https://discord.com/invite/VuYCYkYaHK |