Datasets:
QEU
/

Modalities:
Text
Formats:
json
Size:
< 1K
Libraries:
Datasets
pandas
License:
YxBxRyXJx's picture
Update README.md
2238e0f
metadata
license: apache-2.0

このデータセットはLLMのfine-tuningにおける、「初期化(initialize)」を目的としたものです。

データのレコード数は300件程度しかありません。

目的:非日本語で最適化されたLLMをFine-tuningで日本語を使いこなせるようにするための「DS群」

(注意1:あくまで著者個人のテスト用です。DSを使うのは自由ですが、自己責任で・・・。)

(注意2:代替10エポックの「初期化」のために使うことを考えています。)

使い方:

##(1) 以下の3種のデータセットを「シリアルに(後述)」使用します。 -1. 初期化用データセット(本DS) -2. 著者がdatabrick-15k-jaを4分割させたものの一つ -3. ユーザが準備した日本語のデータセット(本当に学習させたい情報)

##(2) ファインチューニングのシリアル学習の方案(自分で工夫してください。) -1. 初期化用データセット(本DS): 10エポック程度 -2. 著者がdatabrick-15k-ja: 10エポック程度 -3. 日本語のデータセット:ご自分の納得がいくまで学習させてください。

詳しい情報はこちらのブログを参照してください。