Datasets:

Modalities:
Text
Formats:
json
Languages:
Chinese
ArXiv:
Libraries:
Datasets
Dask
License:
sentence_good
stringlengths
6
39
sentence_bad
stringlengths
6
39
phenomenon
stringclasses
8 values
paradigm
stringclasses
29 values
pair_ID
int64
0
999
field
stringclasses
2 values
她们是飞行员还是制片人?
她们是飞行员还是制片人吗?
AlternativeQuestion
haishi_ma
0
syntax
她们想要起重机还是女儿?
她们想要起重机还是女儿吗?
AlternativeQuestion
haishi_ma
1
syntax
他们是售票员还是科学家?
他们是售票员还是科学家吗?
AlternativeQuestion
haishi_ma
2
syntax
你们想要马还是强迫症?
你们想要马还是强迫症吗?
AlternativeQuestion
haishi_ma
3
syntax
他想要明灯还是方式?
他想要明灯还是方式吗?
AlternativeQuestion
haishi_ma
4
syntax
你是学生还是公务员?
你是学生还是公务员吗?
AlternativeQuestion
haishi_ma
5
syntax
你想要海疆还是议案?
你想要海疆还是议案吗?
AlternativeQuestion
haishi_ma
6
syntax
她在公交车站还是书桌?
她在公交车站还是书桌吗?
AlternativeQuestion
haishi_ma
7
syntax
她想要起起落落还是感觉?
她想要起起落落还是感觉吗?
AlternativeQuestion
haishi_ma
8
syntax
她们是前台还是木匠?
她们是前台还是木匠吗?
AlternativeQuestion
haishi_ma
9
syntax
你们在候车厅还是小卖部?
你们在候车厅还是小卖部吗?
AlternativeQuestion
haishi_ma
10
syntax
你是售货员还是职工?
你是售货员还是职工吗?
AlternativeQuestion
haishi_ma
11
syntax
他想要议案还是年纪?
他想要议案还是年纪吗?
AlternativeQuestion
haishi_ma
12
syntax
她想要药物还是尿裤?
她想要药物还是尿裤吗?
AlternativeQuestion
haishi_ma
13
syntax
他们想要设备还是题字碑?
他们想要设备还是题字碑吗?
AlternativeQuestion
haishi_ma
14
syntax
她想要注视还是店?
她想要注视还是店吗?
AlternativeQuestion
haishi_ma
15
syntax
他想要愿望还是谈话?
他想要愿望还是谈话吗?
AlternativeQuestion
haishi_ma
16
syntax
她们是老师还是地勤?
她们是老师还是地勤吗?
AlternativeQuestion
haishi_ma
17
syntax
他们是售货员还是警察?
他们是售货员还是警察吗?
AlternativeQuestion
haishi_ma
18
syntax
你们想要研究生还是母亲们?
你们想要研究生还是母亲们吗?
AlternativeQuestion
haishi_ma
19
syntax
她在车库还是教室?
她在车库还是教室吗?
AlternativeQuestion
haishi_ma
20
syntax
她想要飞机还是鱼雷?
她想要飞机还是鱼雷吗?
AlternativeQuestion
haishi_ma
21
syntax
她在会客室还是卡车?
她在会客室还是卡车吗?
AlternativeQuestion
haishi_ma
22
syntax
她是领班还是导游?
她是领班还是导游吗?
AlternativeQuestion
haishi_ma
23
syntax
她在超市还是公交车站?
她在超市还是公交车站吗?
AlternativeQuestion
haishi_ma
24
syntax
她们在会客室还是公交车站?
她们在会客室还是公交车站吗?
AlternativeQuestion
haishi_ma
25
syntax
他们想要代表还是机制?
他们想要代表还是机制吗?
AlternativeQuestion
haishi_ma
26
syntax
她们想要工资还是女士?
她们想要工资还是女士吗?
AlternativeQuestion
haishi_ma
27
syntax
你们是兽医还是科学家?
你们是兽医还是科学家吗?
AlternativeQuestion
haishi_ma
28
syntax
她们想要婚还是公司?
她们想要婚还是公司吗?
AlternativeQuestion
haishi_ma
29
syntax
你们是主持人还是维修工?
你们是主持人还是维修工吗?
AlternativeQuestion
haishi_ma
30
syntax
你们在办公室还是公交车站?
你们在办公室还是公交车站吗?
AlternativeQuestion
haishi_ma
31
syntax
她是导演还是顾问?
她是导演还是顾问吗?
AlternativeQuestion
haishi_ma
32
syntax
你是公务员还是老师?
你是公务员还是老师吗?
AlternativeQuestion
haishi_ma
33
syntax
你是负责人还是会计?
你是负责人还是会计吗?
AlternativeQuestion
haishi_ma
34
syntax
他们想要女儿还是前夫?
他们想要女儿还是前夫吗?
AlternativeQuestion
haishi_ma
35
syntax
你们想要游戏还是炼油厂?
你们想要游戏还是炼油厂吗?
AlternativeQuestion
haishi_ma
36
syntax
他们在公交车站还是教室?
他们在公交车站还是教室吗?
AlternativeQuestion
haishi_ma
37
syntax
你是助理还是科学家?
你是助理还是科学家吗?
AlternativeQuestion
haishi_ma
38
syntax
他在工厂还是小卖部?
他在工厂还是小卖部吗?
AlternativeQuestion
haishi_ma
39
syntax
他在候车厅还是车库?
他在候车厅还是车库吗?
AlternativeQuestion
haishi_ma
40
syntax
他们在卡车还是单位?
他们在卡车还是单位吗?
AlternativeQuestion
haishi_ma
41
syntax
她们在车库还是卡车?
她们在车库还是卡车吗?
AlternativeQuestion
haishi_ma
42
syntax
你在办公室还是候车厅?
你在办公室还是候车厅吗?
AlternativeQuestion
haishi_ma
43
syntax
你在菜市场还是教室?
你在菜市场还是教室吗?
AlternativeQuestion
haishi_ma
44
syntax
他在车库还是菜市场?
他在车库还是菜市场吗?
AlternativeQuestion
haishi_ma
45
syntax
她想要评论还是大宴?
她想要评论还是大宴吗?
AlternativeQuestion
haishi_ma
46
syntax
他想要产量还是信条?
他想要产量还是信条吗?
AlternativeQuestion
haishi_ma
47
syntax
你们是工程师还是职工?
你们是工程师还是职工吗?
AlternativeQuestion
haishi_ma
48
syntax
他是地勤还是工程师?
他是地勤还是工程师吗?
AlternativeQuestion
haishi_ma
49
syntax
你们在卡车还是教室?
你们在卡车还是教室吗?
AlternativeQuestion
haishi_ma
50
syntax
你想要姐妹还是耳光?
你想要姐妹还是耳光吗?
AlternativeQuestion
haishi_ma
51
syntax
你在工厂还是车库?
你在工厂还是车库吗?
AlternativeQuestion
haishi_ma
52
syntax
他们是警察还是导购?
他们是警察还是导购吗?
AlternativeQuestion
haishi_ma
53
syntax
她是科学家还是队员?
她是科学家还是队员吗?
AlternativeQuestion
haishi_ma
54
syntax
你们想要机会还是网线?
你们想要机会还是网线吗?
AlternativeQuestion
haishi_ma
55
syntax
你在车库还是卡车?
你在车库还是卡车吗?
AlternativeQuestion
haishi_ma
56
syntax
你是农民还是助理?
你是农民还是助理吗?
AlternativeQuestion
haishi_ma
57
syntax
她想要众议员还是前夫?
她想要众议员还是前夫吗?
AlternativeQuestion
haishi_ma
58
syntax
她们是顾问还是驾驶员?
她们是顾问还是驾驶员吗?
AlternativeQuestion
haishi_ma
59
syntax
你们在超市还是单位?
你们在超市还是单位吗?
AlternativeQuestion
haishi_ma
60
syntax
她想要法语老师还是前女友?
她想要法语老师还是前女友吗?
AlternativeQuestion
haishi_ma
61
syntax
你们在小卖部还是办公室?
你们在小卖部还是办公室吗?
AlternativeQuestion
haishi_ma
62
syntax
你们是矿还是老师?
你们是矿还是老师吗?
AlternativeQuestion
haishi_ma
63
syntax
你们想要盘子还是服务?
你们想要盘子还是服务吗?
AlternativeQuestion
haishi_ma
64
syntax
他想要律师还是娼胜?
他想要律师还是娼胜吗?
AlternativeQuestion
haishi_ma
65
syntax
你们是矿还是店员?
你们是矿还是店员吗?
AlternativeQuestion
haishi_ma
66
syntax
你们想要要求还是大战?
你们想要要求还是大战吗?
AlternativeQuestion
haishi_ma
67
syntax
她们在学校还是小卖部?
她们在学校还是小卖部吗?
AlternativeQuestion
haishi_ma
68
syntax
你们在单位还是教室?
你们在单位还是教室吗?
AlternativeQuestion
haishi_ma
69
syntax
他们是导游还是售货员?
他们是导游还是售货员吗?
AlternativeQuestion
haishi_ma
70
syntax
你在候车厅还是会客室?
你在候车厅还是会客室吗?
AlternativeQuestion
haishi_ma
71
syntax
他想要理念还是文学奖?
他想要理念还是文学奖吗?
AlternativeQuestion
haishi_ma
72
syntax
他们是兽医还是警察?
他们是兽医还是警察吗?
AlternativeQuestion
haishi_ma
73
syntax
你们在单位还是工厂?
你们在单位还是工厂吗?
AlternativeQuestion
haishi_ma
74
syntax
他们在候车厅还是超市?
他们在候车厅还是超市吗?
AlternativeQuestion
haishi_ma
75
syntax
她想要贸易还是干部?
她想要贸易还是干部吗?
AlternativeQuestion
haishi_ma
76
syntax
他是农民还是队员?
他是农民还是队员吗?
AlternativeQuestion
haishi_ma
77
syntax
她们是老师还是出纳员?
她们是老师还是出纳员吗?
AlternativeQuestion
haishi_ma
78
syntax
你们想要人数还是策略?
你们想要人数还是策略吗?
AlternativeQuestion
haishi_ma
79
syntax
你们想要遗嘱还是穆斯林?
你们想要遗嘱还是穆斯林吗?
AlternativeQuestion
haishi_ma
80
syntax
他在车库还是小卖部?
他在车库还是小卖部吗?
AlternativeQuestion
haishi_ma
81
syntax
她在书桌还是工厂?
她在书桌还是工厂吗?
AlternativeQuestion
haishi_ma
82
syntax
他想要盒子还是店?
他想要盒子还是店吗?
AlternativeQuestion
haishi_ma
83
syntax
他在单位还是候车厅?
他在单位还是候车厅吗?
AlternativeQuestion
haishi_ma
84
syntax
他们想要介质还是标准煤?
他们想要介质还是标准煤吗?
AlternativeQuestion
haishi_ma
85
syntax
你们是科学家还是木匠?
你们是科学家还是木匠吗?
AlternativeQuestion
haishi_ma
86
syntax
他们想要结构还是知识?
他们想要结构还是知识吗?
AlternativeQuestion
haishi_ma
87
syntax
你是工程师还是厨师?
你是工程师还是厨师吗?
AlternativeQuestion
haishi_ma
88
syntax
你是会计还是店员?
你是会计还是店员吗?
AlternativeQuestion
haishi_ma
89
syntax
他们在单位还是卡车?
他们在单位还是卡车吗?
AlternativeQuestion
haishi_ma
90
syntax
她是歌手还是木匠?
她是歌手还是木匠吗?
AlternativeQuestion
haishi_ma
91
syntax
她们是警察还是医生?
她们是警察还是医生吗?
AlternativeQuestion
haishi_ma
92
syntax
她们在小卖部还是工厂?
她们在小卖部还是工厂吗?
AlternativeQuestion
haishi_ma
93
syntax
你是学生还是会计?
你是学生还是会计吗?
AlternativeQuestion
haishi_ma
94
syntax
他是制片人还是助理?
他是制片人还是助理吗?
AlternativeQuestion
haishi_ma
95
syntax
你们是公务员还是老师?
你们是公务员还是老师吗?
AlternativeQuestion
haishi_ma
96
syntax
他是公务员还是负责人?
他是公务员还是负责人吗?
AlternativeQuestion
haishi_ma
97
syntax
她们想要体系还是湖泊?
她们想要体系还是湖泊吗?
AlternativeQuestion
haishi_ma
98
syntax
他在会客室还是超市?
他在会客室还是超市吗?
AlternativeQuestion
haishi_ma
99
syntax

SLING: Sino-Linguistic Evaluation of Large Language Models

arxiv

This is the official SLING dataset, accompanying the EMNLP 2022 paper "SLING: Sino-Linguistic Evaluation of Large Language Models" by Yixiao Song♢ Kalpesh Krishna♠ Rajesh Bhatt♢ Mohit Iyyer♠.

You can find the paper on arxiv.

We use this dataset for evaluation of a small-scale Chinese Language Model for the BabyLM Challenge.

SLING Dataset

See SLING_Data and the readme file in it.

A complete list of all phenomea and paradigms can be found in PhenomenonParadigmList.txt

Citation Information

If you use SLING, please cite the original paper as follows:

@inproceedings{sling22,
author={Yixiao Song and Kalpesh Krishna and Rajesh Bhatt and Mohit Iyyer},
booktitle = {Empirical Methods in Natural Language Processing},
Year = "2022",
Title={SLING: Sino Linguistic Evaluation of Large Language Models},
}
Downloads last month
52