woodhalloween/llm-jp-3-13b-it_lora

Uploaded model

• Developed by: woodhalloween
• License: apache-2.0
• Finetuned from model : llm-jp/llm-jp-3-13b

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.

Sample Use

以下は、elyza-tasks-100-TV_0.jsonlの回答のためのコードです。

推論用コード

本コードはunslothで学習したqLoRAのアダプタを用いてELYZA-tasks-100-TVの出力を得るためのコードです。 Hugging Faceにアダプタをアップロードしてあることが前提となります。このコードはunslothライブラリを用いてモデルを読み込み、推論するためのコードとなります。 このコードで生成されたjsonlファイルは課題の成果物です。

※本コードはGoogle Colabでの動作を想定しており、Omnicampusでの動作を想定しておりません。