--- language: - ja paperswithcode_id: bbh pretty_name: jBIG-Bench-Hard splits: - name: test license: mit size_categories: - n<1K extra_gated_heading: >- ダウンロード同意書 extra_gated_prompt: ### jhellaswag利用同意書 以下の条件に同意したうえで、公開されたモデル及びデータセット等(以下「本コンテンツ」)といいます)をダウンロードします。 1. 本コンテンツに含まれる著作物について、当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的として利用しないこと 2. 本コンテンツについて、公開者においてこれらの法令適合性や品質等を保証するものではなく、これらの利用に関する責任を負うものではないことを理解したうえで、法令を遵守して利用すること 3. 第三者に本コンテンツを開示する場合には、当該第三者にも法令を遵守させること extra_gated_fields: 以下の「同意する」をクリックすると上記条件に同意したものとみなし、メールアドレスとユーザ名が本コンテンツの管理者に共有されます。: checkbox extra_gated_button_content: 同意する --- # jBIG-Bench-Hardのデータセットカード ### データセット情報 BIG-Bench-Hardの23のサブセットから4サンプル、計92サンプルをランダムに抽出し、日本語に翻訳したものです。 BIG-Bench-Hardではサブセットごとにデータセットファイルが分割されていますが、本データセットでは、その情報を`subset`カラムに記載しています。 **ファイルサイズ:** 60.6 kB サンプルの例は以下のようになります。 ``` { "id": 42, "subset": "movie_recommendation", "input": "レイダース/失われたアーク、ショーシャンクの空に、インセプション、パルプ・フィクションに似た映画を見つけてください。\n選択肢:\nA ポセイドン・アドベンチャー2\nB コーラス\nC フォレスト・ガンプ\nD ゾンビワールドへようこそ", "target": "C", } ``` ### データ型 - `id`: `int64`型 - `subset`: `string`型 - `input`: `string`型 - `target`: `string`型 ### ライセンス情報 MIT ### 引用文献 ``` @article{suzgun2022challenging, title={Challenging BIG-Bench Tasks and Whether Chain-of-Thought Can Solve Them}, author={Suzgun, Mirac and Scales, Nathan and Sch{\"a}rli, Nathanael and Gehrmann, Sebastian and Tay, Yi and Chung, Hyung Won and Chowdhery, Aakanksha and Le, Quoc V and Chi, Ed H and Zhou, Denny and and Wei, Jason}, journal={arXiv preprint arXiv:2210.09261}, year={2022} } ``` ### 作成者 - 山際 愛実 - 山崎 友大 - 原田 憲旺 - 谷口 仁慈