File size: 1,215 Bytes
9c34576
bf8ab44
9c34576
 
bf8ab44
 
81356c1
 
d55140e
 
 
 
32438a1
 
d55140e
6deecf4
 
 
347bd5e
fa0e87c
efbc385
ad3d63e
690dd47
1d3cbc4
03d8243
8a4c827
4c26906
dce7d61
542e1e0
7a6220d
47b4c3f
9aa57e1
6deecf4
e56cae9
342f13d
0b50281
9e51066
8920b6b
616bec7
d89c98b
616bec7
758178b
d596022
4d9b36d
6deecf4
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
---
viewer: false
language:
- zh
---

# H-Eval

H-Eval数据集由人工挑选的316个H小说句子组成,要求模型正确续写下一个单词

本测试集无法反映模型长文本生成能力,更低的分数也不能反映模型在色情方面更为安全

你可以使用`benchmark.py`测试其他模型

本测试集仅供科学研究

| Model| Score| 
|-|-|
| Human|80.2 |
|rwkv-5-h-world-3B|59.4|
|rwkv-5-h-world-1b5|59.1|
|Yi-34B|54.7|
| rwkv-h-world-1b5|54.1| 
| rwkv-v4-7b-dengh| 50.0|
| Yi-6B| 48.7 |
|Yi-34B-Chat-4bits| 48.1 |
| rwkv-h-world-0.4b |46.8 |
| deepsex-34b| 45.9 |
| NSFW_13B_sft | 44.3|
| CausalLM-14B-GPTQ| 43.4 |
| Baichuan2-7B-Base|42.7 |
|RWKV-5-World-3B-v2-20231113-ctx4096| 42.5|
| rwkv-h-1b5| 42.1|
| RWKV-v5-12B-one-state-chat-16k| 41.3 |
| chatglm3-6b-base| 41.2|
|RWKV-claude-4-World-7B-20230805-ctx65k | 40.2 |
| Baichuan2-13B-Base|39.9 |
|RWKV-4-World-CHNtuned-7B-v1-20230709-ctx4096|39.3|
|Baichuan2-13B-Chat-4bits|37.4||
|RWKV-5-World-1B5-v2-20231025-ctx4096| 36.1|
|Qwen-7B|33.0|
| chatglm3-6b| 30.5 |
| RWKV-4-World-CHNtuned-1.5B-v1-20230620-ctx4096| 28.9|
| RWKV-4-World-CHNtuned-0.4B-v1-20230618-ctx4096| 22.9|
| RWKV-4-Novel-3B-v1-Chn-20230412-ctx4096| 20.4|