Datasets:
skt
/

Modalities:
Image
Languages:
Korean
Size:
< 1K
Libraries:
Datasets
License:
btjhjeon commited on
Commit
02496f3
·
1 Parent(s): e62842b

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +152 -0
README.md CHANGED
@@ -3,3 +3,155 @@ license: other
3
  license_name: korean-vqa-license
4
  license_link: https://sktbrain.github.io/KVQA/license.html
5
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
3
  license_name: korean-vqa-license
4
  license_link: https://sktbrain.github.io/KVQA/license.html
5
  ---
6
+
7
+ ---
8
+ license: other
9
+ license_name: korean-vqa-license
10
+ license_link: https://sktbrain.github.io/KVQA/license.html
11
+ ---
12
+
13
+
14
+ We also provide KVQA blog pages in both [Korean](https://sktbrain.github.io/KVQA/) and [English](https://sktbrain.github.io/KVQA/index-en.html).
15
+
16
+ SK텔레콤은 사회적 가치 추구를 위한 다양한 사업을 진행하고 있습니다. 기업이 먼저 앞장서서 사회 속에 혼재된 사회적 이슈를 발굴하고, 이를 해결하기 위한 사회적 책임을 지는 것이 지속가능한 경영의 출발이라고 생각합니다.
17
+
18
+ 2019년 4월부터 이 기술의 현지화를 위해 사회적 기업인 [테스트웍스](http://www.testworks.co.kr)와 협업하여 자발적으로 지원한 우리나라의 시각장애인들로부터 데이터를 수집하였고, 영문으로 공개된 [VizWiz 데이터셋](https://vizwiz.org/tasks-and-datasets/vqa/) 중 현지화가 가능한 일부를 한국어로 번역하여 시각적 질의응답 기술을 한국어로 학습시킬 수 있는 데이터셋을 만들었습니다.
19
+
20
+ # 논문
21
+
22
+ ## AI for Social Good workshop at NeurIPS (Kim & Lim et al., 2019)
23
+
24
+ [PDF](https://aiforsocialgood.github.io/neurips2019/accepted/track1/pdfs/44_aisg_neurips2019.pdf)
25
+ ![AI for Social Good workshop at NeurIPS](docs/img/AISG_NeurIPS_2019_KVQA.png)
26
+
27
+ # 시각적 질의응답
28
+
29
+ 시각적 질의응답은 이미지가 주어지고 그 이미지에 대한 질문이 주어졌을 때, 이미지를 이해하여 자연어로 질문에 대한 답을 주는 기술입니다.
30
+
31
+ ![VQA](docs/img/vqa.png)
32
+
33
+ # KVQA 데이터셋
34
+
35
+ KVQA 데이터셋은 T-Brain이 진행하는 사회적 가치 추구를 위한 프로젝트의 일환으로서, 한국형 시각적 질의응답(Visual Question Answering) 데이터셋입니다. KVQA 데이터셋은 한국 시각장애인들이 찍은 사진과 그 사진에 대한 질문과 서로 다른 열 명의 복수 답으로 구성되어 있습니다.
36
+ 현재는 총 3만 건의 이미지와 질문, 그리고 30만 건의 답변으로 구성되어 있으나, 올해 말까지 10만 건의 이미지와 질문, 그리고 100만 건의 답변으로 증대할 예정입니다.
37
+ 본 데이터셋은 교육 및 연구목적으로 사용이 가능하며, 자세한 내용은 첨부된 라이선스를 참조해주시기 바랍니다. KVQA 데이터셋을 통해 한국형 시각적 질의응답 기술 발전과 사회적 가치를 동시에 추구할 수 있기를 바랍니다.
38
+
39
+ ![Examples of KVQA](docs/img/kvqa_examples.png)
40
+
41
+ ## 통계
42
+
43
+ ### v1.0 (2020년 1월)
44
+
45
+ | | 전체 (%) | 예/아니오 (%) | 숫자 (%) | 기타 (%) | 답변불가능 (%) |
46
+ |:----------|:-------------|:-------------|:-------------|:---------------|:--------------|
47
+ | 이미지 수 | 100,445 (100) | 6,124 (6.10) | 9,332 (9.29) | 69,069 (68.76) | 15,920 (15.85) |
48
+ | 질문 수 | 100,445 (100) | 6,124 (6.10) | 9,332 (9.29) | 69,069 (68.76) | 15,920 (15.85) |
49
+ | 답변 수 | 1,004,450 (100)| 61,240 (6.10)| 93,320 (9.29)| 690,690 (68.76)| 159,200 (15.85)|
50
+
51
+ ## 성능 측정
52
+
53
+ 한 질문 당 열 명의 서로 다른 사람들로부터 수집된 답을 이용해 정확도를 측정합니다. 열 개의 답변 중 3개 이상을 맞추었다면 100%가 되며 3개 미만일 때 비례적으로 부분 점수를 획득합니다. 최종적으로 성능 보고를 할 때에는 10개의 답변 중 9개를 선택하는 서로 다른 정확도 측정을 10회 실시하여 평균 점수를 보고해야 합니다. 이 성능 측정은 [VQA Evaluation](https://visualqa.org/evaluation.html) 방법과 같습니다.
54
+
55
+ ## 시각적 질의응답 데이터
56
+
57
+ ### 데이터 항목 설명
58
+
59
+ | Name | Type | Description |
60
+ |:---------------------------------|:---------|:---------------------------------------------------------|
61
+ | VQA | `[dict]` | 시각적 질의응답 정보를 담은 `dict`의 `list` |
62
+ | +- image | `str` | 이미지 파일의 이름 |
63
+ | +- source | `str` | 데이터의 출처 `("kvqa", "vizwiz")` |
64
+ | +- answers | `[dict]` | 응답 정보를 담은 `dict` 10개의 `list` |
65
+ | +--- answer | `str` | 시각적 질의에 대한 응답 |
66
+ | +--- answer_confidence | `str` | 응답에 대한 신뢰도 `("yes", "maybe", "no")` |
67
+ | +- question | `str` | 이미지에 관련한 질의 |
68
+ | +- answerable | `int` | 응답 가능 여부 `(0, 1)` |
69
+ | +- answer_type | `str` | 응답의 종�� `("number", "yes/no", "unanswerable", "other")` |
70
+
71
+ ### 데이터 예시
72
+
73
+ ```json
74
+ [{
75
+ "image": "KVQA_190712_00143.jpg",
76
+ "source": "kvqa",
77
+ "answers": [{
78
+ "answer": "피아노",
79
+ "answer_confidence": "yes"
80
+ }, {
81
+ "answer": "피아노",
82
+ "answer_confidence": "yes"
83
+ }, {
84
+ "answer": "피아노 치고있다",
85
+ "answer_confidence": "maybe"
86
+ }, {
87
+ "answer": "unanswerable",
88
+ "answer_confidence": "maybe"
89
+ }, {
90
+ "answer": "게임",
91
+ "answer_confidence": "maybe"
92
+ }, {
93
+ "answer": "피아노 앞에서 무언가를 보고 있음",
94
+ "answer_confidence": "maybe"
95
+ }, {
96
+ "answer": "피아노치고있어",
97
+ "answer_confidence": "maybe"
98
+ }, {
99
+ "answer": "피아노치고있어요",
100
+ "answer_confidence": "maybe"
101
+ }, {
102
+ "answer": "피아노 연주",
103
+ "answer_confidence": "maybe"
104
+ }, {
105
+ "answer": "피아노 치기",
106
+ "answer_confidence": "yes"
107
+ }],
108
+ "question": "방에 있는 사람은 지금 뭘하고 있지?",
109
+ "answerable": 1,
110
+ "answer_type": "other"
111
+ },
112
+ {
113
+ "image": "VizWiz_train_000000008148.jpg",
114
+ "source": "vizwiz",
115
+ "answers": [{
116
+ "answer": "리모컨",
117
+ "answer_confidence": "yes"
118
+ }, {
119
+ "answer": "리모컨",
120
+ "answer_confidence": "yes"
121
+ }, {
122
+ "answer": "리모컨",
123
+ "answer_confidence": "yes"
124
+ }, {
125
+ "answer": "티비 리모컨",
126
+ "answer_confidence": "yes"
127
+ }, {
128
+ "answer": "리모컨",
129
+ "answer_confidence": "yes"
130
+ }, {
131
+ "answer": "리모컨",
132
+ "answer_confidence": "yes"
133
+ }, {
134
+ "answer": "리모컨",
135
+ "answer_confidence": "yes"
136
+ }, {
137
+ "answer": "리모컨",
138
+ "answer_confidence": "maybe"
139
+ }, {
140
+ "answer": "리모컨",
141
+ "answer_confidence": "yes"
142
+ }, {
143
+ "answer": "리모컨",
144
+ "answer_confidence": "yes"
145
+ }],
146
+ "question": "이것은 무엇인가요?",
147
+ "answerable": 1,
148
+ "answer_type": "other"
149
+ }
150
+ ]
151
+ ```
152
+
153
+ # 라이선스
154
+
155
+ * [Korean VQA License](https://sktbrain.github.io/KVQA/license.html) for the KVQA Dataset
156
+ * Creative Commons License Deed ([CC BY 4.0](https://creativecommons.org/licenses/by/4.0/deed.ko)) for the VizWiz subset
157
+ * GNU GPL v3.0 for the Code