File size: 1,178 Bytes
7e3d5d5 c2e0be1 8f5bd2a 728c942 c2e0be1 8f5bd2a c2e0be1 728c942 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 |
---
license: cc-by-4.0
---
# CulturaY-ja-askllm-v1
多言語データセット [ontocord/CulturaY](https://huggingface.co/datasets/ontocord/CulturaY) の日本語パート `ja` に対して、 Ask-LLM 手法でスコア付けしたデータセットです。
元データセットのカラムに加え `askllm_score` というカラムが追加されており、ここに Ask-LLM のスコアが格納されています。
Ask-LLM でスコア付けに使用した LLM は [Rakuten/RakutenAI-7B-instruct](https://huggingface.co/Rakuten/RakutenAI-7B-instruct) で、プロンプトは以下の通りです。
```
###
{data}
###
Does the previous paragraph demarcated within ### and ### contain informative signal for pre-training a large-language model? An informative datapoint should be well-formatted, contain some usable knowledge of the world, and strictly NOT have any harmful, racist, sexist, etc. content.
OPTIONS: yes / no
ANSWER:
```
- 元データセット
- https://huggingface.co/datasets/ontocord/CulturaY
- Ask-LLM 手法
- https://arxiv.org/abs/2402.09668
- https://speakerdeck.com/s_ota/ask-llm-20240313
- https://github.com/susumuota/nano-askllm |