karakuri-70B-MS-02

量子化バージョンはこちらです。

以下のモデルを使用させていただいてます。

前回作成したkarakuri-MS-01は推論能力を重視しましたが、今回はnsfw要素に注力しました。karakuriをベースにChatVectorにてnsfwモデルを作成し、karakuri-midrose-mgをベースにしてModel Stockにてマージしました。
不適切な発言をするモデルなので、使用には十分注意して下さい。

モデル概要

これは日本語の特定の能力がmergeにより、どのように向上するかをテストするための実験モデルです。
koboldで検証する際は、Max Ctx. Tokensは4096以下、Amount to Genは512以下で使用することを推奨します。

ライセンス

merge元の各モデルのライセンスに従います。

謝辞

Model Stockという新たな手法に感謝いたします。
マージに使用させていただいた、各モデルの作者様に感謝いたします。

Downloads last month
11
Safetensors
Model size
69.2B params
Tensor type
FP16
·
Inference Examples
This model does not have enough activity to be deployed to Inference API (serverless) yet. Increase its social visibility and check back later, or deploy to Inference Endpoints (dedicated) instead.