Hugging Face's logo

Datasets:
KETI-AIR
/
multimodal_dialogue_coreference_resolution

Dataset card Files Community
byunggill commited on
Commit
717025a
•
1 Parent(s): 056fbe4

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +238 -0
README.md ADDED
@@ -0,0 +1,238 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 멀티 모달 대화 모델을 위한 패션 지식 대화 데이터 셋 <br>:복합대화 연구용 데이터셋 V.2 (데이터)
2
+
3
+ # 목적 및 소개
4
+ - <b> 목적 </b>: 텍스트로 이루어진 대화 뿐만 아니라 이미지까지 포함된 대화도 언어모델이 처리할 수 있도록하는 것이 목적.
5
+ - <b> 도메인 </b>: 이미지와 텍스트 모두에 대한 이해가 있어야 대화가 가능한 패션으로 도메인을 설정.
6
+ - <b> 대화 내용 </b>: 패션 주제를 정해 놓고 이에대해 system과 user가 서로 대화를 나누는 내용으로 구성. <br>주로 user가 패션에 대한 지식이나 이미지를 요청하고 system이 그에대한 답변으로 관련 지식이나 이미지를 찾아주는 형태를 가짐.
7
+
8
+ # 특징
9
+ - <b> 의도 및 감정 라벨링 </b>: user 및 system의 발화와 함께 발화가 가지는 의도 (intent), 감정 (sentiment)을 함께 라벨링함.
10
+ - <b> 패션 속성 리스트 라벨링 </b>: user가 어떤 종류의 패션 이미지를 원하는지 패션 속성 리스트 (state)를 라벨링함. 대화 도중 요구하는 패션 이미지가 달라지면 state 또한 초기화 됨.
11
+ - <b> 모달 간 상호참조 정보 라벨링 </b>: 대화 내 모달 간 상호참조 정보 (coreference)를 라벨링하여 모델이 텍스트가 어느 이미지의 어떤 부분을 가리키는지 학습할 수 있도록 함.
12
+ - <b> 한글로 구축 된 데이터 셋 </b>
13
+
14
+ # 메타데이터
15
+ - <b>도메인</b>: 패션 이미지 및 대화
16
+ - <b>데이터 유형</b>: 텍스트 (이미지 URL 및 속성 태그 포함)
17
+ - <b>데이터 형식</b>: JSON
18
+ - <b>데이터 출처</b>: AI Hub의 패션 이미지 데이터셋을 기반으로 구축 [[링크]](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=51)
19
+ - <b>라벨링 유형</b>: 다음을 포함하는 발화 배열 형식의 대화
20
+ - 의도 (intent)
21
+ - 감정 (sentiment)
22
+ - 이미지
23
+ - 요구 패션 속성 리스트 (state)
24
+ - 대화 내 참조 정보 (coreference)
25
+ - <b>라벨링 형식</b>: JSON
26
+
27
+
28
+ # 데이터 통계량
29
+ | 통계량 | 수치 |
30
+ |-------|-------:|
31
+ | 대화 (전체) | 15,293 |
32
+ | 대화 (state 정보 포함)| 12,687 |
33
+ | 대화 (coreference 정보 포함)| 12,670 |
34
+ | 세션 (대화가 지속적으로 이어진 시간적 기간) | 30,792 |
35
+ | 대화 평균 발화 수 | 35 |
36
+ | 대화에 등장한 패션 이미지 | 40,461 |
37
+ | 대화에 포함된 unique 패션 이미지 | 29,829 |
38
+ | 대화에 포함된 query된 패션 속성 | 58,156 |
39
+ | 대화에 포함된 query된 unique 패션 속성 | 2,634|
40
+ | 대화에 포함된 평균 coreference | 19 |
41
+
42
+ # 데이터 구조
43
+ ## 예시
44
+ ```python
45
+ [
46
+ {
47
+ 'meta':
48
+ {
49
+ 'topic': '24_02_001_플레어 디테일이 있는 미디 기장의 그린 스커트 추천',
50
+ 'chat_desc': '24_02_001_플레어 디테일이 있는 미디 기장의 그린 스커트 추천'
51
+ },
52
+ 'dialog':
53
+ [
54
+ {
55
+ 'speaker': 'user',
56
+ 'msg_type': 'text',
57
+ 'msg':
58
+ {
59
+ 'eid': 'utter-utter-utter-1',
60
+ 'text': '안녕.',
61
+ 'annotation':
62
+ {
63
+ 'intent': 'CHAT',
64
+ 'sentiment': 'neutral'
65
+ }
66
+ 'last_modified': '2024-1-12 18:2',
67
+ 'type':'text'
68
+ },
69
+ 'msg_id': 'utter-utter-utter-1'
70
+ },
71
+ {
72
+ 'speaker': 'system',
73
+ 'msg_type': 'text',
74
+ 'msg':
75
+ {
76
+ 'eid': 'utter-utter-utter-4',
77
+ 'text': '어서오세요. 무엇을 도와드릴까요?',
78
+ 'info': {},
79
+ 'annotation':
80
+ {
81
+ 'strategy':'PRE-SUGGESTION'
82
+ },
83
+ 'last_modified': '2024-1-12 18:2',
84
+ 'type': 'text'
85
+ },
86
+ 'msg_id': 'utter-utter-utter-4'
87
+ },
88
+ {
89
+ 'speaker': 'system',
90
+ 'msg_type': 'image',
91
+ 'msg': {
92
+ 'eid': 'utter-utter-utter-img-24',
93
+ 'images':
94
+ [{'bbox_info': {'원피스': {'bbox_xywh': [220, 29, 395, 751],
95
+ 'bbox_xywh_norm':[0.275, 0.027645376549094377, 0.49375, 0.7159199237368923],
96
+ 'image_wh': [800, 1049]}},
97
+ 'f_name': '1075643',
98
+ 'query_tags': ['원피스:카테고리:드레스', '원피스:색상:블랙', '원피스:기장:발목'],
99
+ 'src': 'https://storage.googleapis.com/k_fashion_images/k_fashion_images/1075643.jpg',
100
+ 'tags': ['스타일:서브스타일:소피스트케이티드',
101
+ '스타일:스타일:페미닌',
102
+ '원피스:기장:발목',
103
+ '원피스:넥라인:브이넥',
104
+ '원피스:디테일:셔링',
105
+ '원피스:색상:블랙',
106
+ '원피스:소매기장:긴팔',
107
+ '원피스:소재:우븐',
108
+ '원피스:옷깃:셔츠칼라',
109
+ '원피스:카테고리:드레스',
110
+ '원피스:핏:노멀']
111
+ }],
112
+ 'last_modified': '2024-1-12 18:2',
113
+ 'type': 'image'
114
+ },
115
+ 'msg_id': 'utter-utter-utter-img-24'
116
+ },
117
+ ...
118
+ ]
119
+ "state_label":
120
+ [
121
+ ...,
122
+ {
123
+ 'added_query_state': ['원피스:카테고리:드레스'],
124
+ 'cr_query_state': [],
125
+ 'cr_target': '',
126
+ 'prev_query_state': ['기타:목적:문학의 밤 행사'],
127
+ 'query_state': ['원피스:카테고리:드레스', '기타:목적:문학의 밤 행사'],
128
+ 'summary': ''
129
+ },
130
+ {
131
+ 'request_state': ['원피스:색상:']
132
+ },
133
+ {
134
+ 'added_query_state': ['원피스:색상:블랙'],
135
+ 'cr_query_state': [],
136
+ 'cr_target': '',
137
+ 'prev_query_state': ['원피스:카테고리:드레스', '기타:목적:문학의 밤 행사'],
138
+ 'query_state': ['원피스:색상:블랙', '원피스:카테고리:드레스', '기타:목적:문학의 밤 행사'],
139
+ 'summary': ''
140
+ },
141
+ ...
142
+ ],
143
+ "cr_label":
144
+ [
145
+ 'entities':
146
+ [
147
+ {
148
+ 'id': 'E-0',
149
+ 'mentions':
150
+ [
151
+ {
152
+ 'target': 'T',
153
+ 'id': 'TB-2-34',
154
+ 'start': 14,
155
+ 'end': 46,
156
+ 'peer-id': 'T-2-34'
157
+ },
158
+ ...
159
+ ]
160
+ },
161
+ ...
162
+ ],
163
+ "relations":
164
+ [
165
+ {'head': 'E-0', 'tail': 'E-1', 'relation': 'up_down'},
166
+ ...
167
+ ]
168
+ ]
169
+
170
+ },
171
+ ...
172
+ ]
173
+ ```
174
+ ## JSON 구조 설명
175
+
176
+ - `meta`
177
+ - `topic`: 대화의 주제, 예시에서는 특정 아이템 추천을 주제로 사용
178
+ - `chat_desc`: 채팅 내용 설명. topic과 같을 수 있음
179
+
180
+ - `dialog` (대화 내역을 담는 리스트):
181
+ - `speaker`: 메시지의 발화자, `user` 또는 `system`, `session_seperator`
182
+ - `msg_type`: 메시지 타입, `text` 또는 `image`
183
+ - `msg`: 메시지의 세부 내용
184
+ - `eid`: 메시지의 고유 ID
185
+ - `text`: 발화 내용 (`msg_type`이 `text`인 경우)
186
+ - `annotation`: 메시지에 대한 추가 정보
187
+ - `intent`: 사용자의 의도, 예시에서는 `CHAT`
188
+ - `sentiment`: 감정 상태, `positive`, `negative`, `neutral`
189
+ - `strategy`: 시스템의 전략 (예시에서는 `PRE-SUGGESTION`을 사용하여 추천 전 제안)
190
+ - `last_modified`: 마지막 수정 시간
191
+ - `type`: 메시지 유형, `text` 또는 `image`
192
+ - `images` (`msg_type`이 `image`인 경우)
193
+ - `bbox_info`: 이미지 내의 객체 위치 정보, 좌표(`bbox_xywh`) 및 정규화 좌표(`bbox_xywh_norm`)
194
+ - `image_wh`: 이미지의 폭과 높이
195
+ - `f_name`: 이미지 파일명
196
+ - `query_tags`: 이미지 검색 시 사용된 태그 정보
197
+ - `src`: 이미지 파일의 URL
198
+ - `tags`: 이미지의 속성 태그 (스타일, 색상, 길이 등)
199
+ - `msg_id`: 메시지 ID
200
+ - `state_label`: 패션 속성 리스트 라벨링 정보 (리스트에 포함된 dictionary 객체는 dialog 리스트에 포함된 객체와 1:1 대응)
201
+ - `added_query_state`: 발화로 추가된 패션 속성 리스트
202
+ - `cr_query_state`: 참조된 패션 속성 리스트
203
+ - `cr_target`: 참조 대상
204
+ - `prev_query_state`: 이전 패션 속성 리스트
205
+ - `query_state`: 현재 패션 속성 리스트
206
+ - `summary`: 발화 요약
207
+ - `request_state`: system이 user에게 요청
208
+ - `cr_label`: 대화 내 모달 간 상호참조 정보 라벨링 정보 (리스트에 포함된 dictionary 객체는 dialog 리스트에 포함된 객체와 1:1 대응)
209
+ - `entities`: 대화 내에서 나타난 엔티티 리스트
210
+ - `id`: 엔티티의 고유 ID
211
+ - `mentions`: 엔티티에 대한 대화 내 참조 정보
212
+ - `target`: T or I (텍스트 또는 이미지)
213
+ - `id`: 참조의 고유 ID
214
+ - `start`: 발화 내 참조의 시작 위치
215
+ - `end`: 발화 내 참조의 끝 위치
216
+ - `peer-id`: 참조 대상의 피어 ID
217
+ - `relations`: 엔티티 간 관계 정보
218
+ - `head`: 관계의 첫 번째 엔티티 ID
219
+ - `tail`: 관계의 두 번째 엔티티 ID
220
+ - `relation`: 관계 유형 (up_down, attr,)
221
+
222
+
223
+
224
+ # 구축 업체
225
+ | 업체 | 역할 |
226
+ |-------|-------|
227
+ | 셀렉트스타 | 데이터 구축 |
228
+ | KETI | 구축 가이드라인 및 구축 도구 제공 |
229
+
230
+ # 데이터 변경 이력
231
+ | 버전 | 일자 | 변경내용| 비고 |
232
+ |-------|-------|-------|-------|
233
+ | 1.0 | 2024-06-01 | State 및 Coreference 라벨링 추가 전 | |
234
+ | 2.0 | 2024-11-14 | 최초 공개 버전 | |
235
+
236
+
237
+ # Acknoledgement
238
+ 본 연구는 정부(과학기술정보통신부)의 재원으로 지원을 받아 수행된 연구입니다. (No. RS-2022-II220320, 상황인지 및 사용자 이해를 통한 인공지능 기반 1:1 복합대화 기술 개발)