mmnga/japanese-novel-gpt-j-6b-ggml

AIBunCho/japanese-novel-gpt-j-6b

AI BunChoさんが公開しているjapanese-novel-gpt-j-6bのggml変換版です。

修正モデルを再アップしました。

Usage

git clone https://github.com/ggerganov/ggml.git

cd ggml
mkdir build && cd build
cmake ..
make -j

./bin/gpt-j -m 'japanese-novel-gpt-j-6b-ggml-q4_0.bin' -n 128 -t 8 -p "わたくしといふ現象は、その因果律を断ち切ることができるのです。"