File size: 10,755 Bytes
717025a |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 |
# 멀티 모달 대화 모델을 위한 패션 지식 대화 데이터 셋 <br>:복합대화 연구용 데이터셋 V.2 (데이터)
# 목적 및 소개
- <b> 목적 </b>: 텍스트로 이루어진 대화 뿐만 아니라 이미지까지 포함된 대화도 언어모델이 처리할 수 있도록하는 것이 목적.
- <b> 도메인 </b>: 이미지와 텍스트 모두에 대한 이해가 있어야 대화가 가능한 패션으로 도메인을 설정.
- <b> 대화 내용 </b>: 패션 주제를 정해 놓고 이에대해 system과 user가 서로 대화를 나누는 내용으로 구성. <br>주로 user가 패션에 대한 지식이나 이미지를 요청하고 system이 그에대한 답변으로 관련 지식이나 이미지를 찾아주는 형태를 가짐.
# 특징
- <b> 의도 및 감정 라벨링 </b>: user 및 system의 발화와 함께 발화가 가지는 의도 (intent), 감정 (sentiment)을 함께 라벨링함.
- <b> 패션 속성 리스트 라벨링 </b>: user가 어떤 종류의 패션 이미지를 원하는지 패션 속성 리스트 (state)를 라벨링함. 대화 도중 요구하는 패션 이미지가 달라지면 state 또한 초기화 됨.
- <b> 모달 간 상호참조 정보 라벨링 </b>: 대화 내 모달 간 상호참조 정보 (coreference)를 라벨링하여 모델이 텍스트가 어느 이미지의 어떤 부분을 가리키는지 학습할 수 있도록 함.
- <b> 한글로 구축 된 데이터 셋 </b>
# 메타데이터
- <b>도메인</b>: 패션 이미지 및 대화
- <b>데이터 유형</b>: 텍스트 (이미지 URL 및 속성 태그 포함)
- <b>데이터 형식</b>: JSON
- <b>데이터 출처</b>: AI Hub의 패션 이미지 데이터셋을 기반으로 구축 [[링크]](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=51)
- <b>라벨링 유형</b>: 다음을 포함하는 발화 배열 형식의 대화
- 의도 (intent)
- 감정 (sentiment)
- 이미지
- 요구 패션 속성 리스트 (state)
- 대화 내 참조 정보 (coreference)
- <b>라벨링 형식</b>: JSON
# 데이터 통계량
| 통계량 | 수치 |
|-------|-------:|
| 대화 (전체) | 15,293 |
| 대화 (state 정보 포함)| 12,687 |
| 대화 (coreference 정보 포함)| 12,670 |
| 세션 (대화가 지속적으로 이어진 시간적 기간) | 30,792 |
| 대화 평균 발화 수 | 35 |
| 대화에 등장한 패션 이미지 | 40,461 |
| 대화에 포함된 unique 패션 이미지 | 29,829 |
| 대화에 포함된 query된 패션 속성 | 58,156 |
| 대화에 포함된 query된 unique 패션 속성 | 2,634|
| 대화에 포함된 평균 coreference | 19 |
# 데이터 구조
## 예시
```python
[
{
'meta':
{
'topic': '24_02_001_플레어 디테일이 있는 미디 기장의 그린 스커트 추천',
'chat_desc': '24_02_001_플레어 디테일이 있는 미디 기장의 그린 스커트 추천'
},
'dialog':
[
{
'speaker': 'user',
'msg_type': 'text',
'msg':
{
'eid': 'utter-utter-utter-1',
'text': '안녕.',
'annotation':
{
'intent': 'CHAT',
'sentiment': 'neutral'
}
'last_modified': '2024-1-12 18:2',
'type':'text'
},
'msg_id': 'utter-utter-utter-1'
},
{
'speaker': 'system',
'msg_type': 'text',
'msg':
{
'eid': 'utter-utter-utter-4',
'text': '어서오세요. 무엇을 도와드릴까요?',
'info': {},
'annotation':
{
'strategy':'PRE-SUGGESTION'
},
'last_modified': '2024-1-12 18:2',
'type': 'text'
},
'msg_id': 'utter-utter-utter-4'
},
{
'speaker': 'system',
'msg_type': 'image',
'msg': {
'eid': 'utter-utter-utter-img-24',
'images':
[{'bbox_info': {'원피스': {'bbox_xywh': [220, 29, 395, 751],
'bbox_xywh_norm':[0.275, 0.027645376549094377, 0.49375, 0.7159199237368923],
'image_wh': [800, 1049]}},
'f_name': '1075643',
'query_tags': ['원피스:카테고리:드레스', '원피스:색상:블랙', '원피스:기장:발목'],
'src': 'https://storage.googleapis.com/k_fashion_images/k_fashion_images/1075643.jpg',
'tags': ['스타일:서브스타일:소피스트케이티드',
'스타일:스타일:페미닌',
'원피스:기장:발목',
'원피스:넥라인:브이넥',
'원피스:디테일:셔링',
'원피스:색상:블랙',
'원피스:소매기장:긴팔',
'원피스:소재:우븐',
'원피스:옷깃:셔츠칼라',
'원피스:카테고리:드레스',
'원피스:핏:노멀']
}],
'last_modified': '2024-1-12 18:2',
'type': 'image'
},
'msg_id': 'utter-utter-utter-img-24'
},
...
]
"state_label":
[
...,
{
'added_query_state': ['원피스:카테고리:드레스'],
'cr_query_state': [],
'cr_target': '',
'prev_query_state': ['기타:목적:문학의 밤 행사'],
'query_state': ['원피스:카테고리:드레스', '기타:목적:문학의 밤 행사'],
'summary': ''
},
{
'request_state': ['원피스:색상:']
},
{
'added_query_state': ['원피스:색상:블랙'],
'cr_query_state': [],
'cr_target': '',
'prev_query_state': ['원피스:카테고리:드레스', '기타:목적:문학의 밤 행사'],
'query_state': ['원피스:색상:블랙', '원피스:카테고리:드레스', '기타:목적:문학의 밤 행사'],
'summary': ''
},
...
],
"cr_label":
[
'entities':
[
{
'id': 'E-0',
'mentions':
[
{
'target': 'T',
'id': 'TB-2-34',
'start': 14,
'end': 46,
'peer-id': 'T-2-34'
},
...
]
},
...
],
"relations":
[
{'head': 'E-0', 'tail': 'E-1', 'relation': 'up_down'},
...
]
]
},
...
]
```
## JSON 구조 설명
- `meta`
- `topic`: 대화의 주제, 예시에서는 특정 아이템 추천을 주제로 사용
- `chat_desc`: 채팅 내용 설명. topic과 같을 수 있음
- `dialog` (대화 내역을 담는 리스트):
- `speaker`: 메시지의 발화자, `user` 또는 `system`, `session_seperator`
- `msg_type`: 메시지 타입, `text` 또는 `image`
- `msg`: 메시지의 세부 내용
- `eid`: 메시지의 고유 ID
- `text`: 발화 내용 (`msg_type`이 `text`인 경우)
- `annotation`: 메시지에 대한 추가 정보
- `intent`: 사용자의 의도, 예시에서는 `CHAT`
- `sentiment`: 감정 상태, `positive`, `negative`, `neutral`
- `strategy`: 시스템의 전략 (예시에서는 `PRE-SUGGESTION`을 사용하여 추천 전 제안)
- `last_modified`: 마지막 수정 시간
- `type`: 메시지 유형, `text` 또는 `image`
- `images` (`msg_type`이 `image`인 경우)
- `bbox_info`: 이미지 내의 객체 위치 정보, 좌표(`bbox_xywh`) 및 정규화 좌표(`bbox_xywh_norm`)
- `image_wh`: 이미지의 폭과 높이
- `f_name`: 이미지 파일명
- `query_tags`: 이미지 검색 시 사용된 태그 정보
- `src`: 이미지 파일의 URL
- `tags`: 이미지의 속성 태그 (스타일, 색상, 길이 등)
- `msg_id`: 메시지 ID
- `state_label`: 패션 속성 리스트 라벨링 정보 (리스트에 포함된 dictionary 객체는 dialog 리스트에 포함된 객체와 1:1 대응)
- `added_query_state`: 발화로 추가된 패션 속성 리스트
- `cr_query_state`: 참조된 패션 속성 리스트
- `cr_target`: 참조 대상
- `prev_query_state`: 이전 패션 속성 리스트
- `query_state`: 현재 패션 속성 리스트
- `summary`: 발화 요약
- `request_state`: system이 user에게 요청
- `cr_label`: 대화 내 모달 간 상호참조 정보 라벨링 정보 (리스트에 포함된 dictionary 객체는 dialog 리스트에 포함된 객체와 1:1 대응)
- `entities`: 대화 내에서 나타난 엔티티 리스트
- `id`: 엔티티의 고유 ID
- `mentions`: 엔티티에 대한 대화 내 참조 정보
- `target`: T or I (텍스트 또는 이미지)
- `id`: 참조의 고유 ID
- `start`: 발화 내 참조의 시작 위치
- `end`: 발화 내 참조의 끝 위치
- `peer-id`: 참조 대상의 피어 ID
- `relations`: 엔티티 간 관계 정보
- `head`: 관계의 첫 번째 엔티티 ID
- `tail`: 관계의 두 번째 엔티티 ID
- `relation`: 관계 유형 (up_down, attr,)
# 구축 업체
| 업체 | 역할 |
|-------|-------|
| 셀렉트스타 | 데이터 구축 |
| KETI | 구축 가이드라인 및 구축 도구 제공 |
# 데이터 변경 이력
| 버전 | 일자 | 변경내용| 비고 |
|-------|-------|-------|-------|
| 1.0 | 2024-06-01 | State 및 Coreference 라벨링 추가 전 | |
| 2.0 | 2024-11-14 | 최초 공개 버전 | |
# Acknoledgement
본 연구는 정부(과학기술정보통신부)의 재원으로 지원을 받아 수행된 연구입니다. (No. RS-2022-II220320, 상황인지 및 사용자 이해를 통한 인공지능 기반 1:1 복합대화 기술 개발) |