# 멀티 모달 대화 모델을 위한 패션 지식 대화 데이터 셋
:복합대화 연구용 데이터셋 V.2 (데이터) # 목적 및 소개 - 목적 : 텍스트로 이루어진 대화 뿐만 아니라 이미지까지 포함된 대화도 언어모델이 처리할 수 있도록하는 것이 목적. - 도메인 : 이미지와 텍스트 모두에 대한 이해가 있어야 대화가 가능한 패션으로 도메인을 설정. - 대화 내용 : 패션 주제를 정해 놓고 이에대해 system과 user가 서로 대화를 나누는 내용으로 구성.
주로 user가 패션에 대한 지식이나 이미지를 요청하고 system이 그에대한 답변으로 관련 지식이나 이미지를 찾아주는 형태를 가짐. # 특징 - 의도 및 감정 라벨링 : user 및 system의 발화와 함께 발화가 가지는 의도 (intent), 감정 (sentiment)을 함께 라벨링함. - 패션 속성 리스트 라벨링 : user가 어떤 종류의 패션 이미지를 원하는지 패션 속성 리스트 (state)를 라벨링함. 대화 도중 요구하는 패션 이미지가 달라지면 state 또한 초기화 됨. - 모달 간 상호참조 정보 라벨링 : 대화 내 모달 간 상호참조 정보 (coreference)를 라벨링하여 모델이 텍스트가 어느 이미지의 어떤 부분을 가리키는지 학습할 수 있도록 함. - 한글로 구축 된 데이터 셋 # 메타데이터 - 도메인: 패션 이미지 및 대화 - 데이터 유형: 텍스트 (이미지 URL 및 속성 태그 포함) - 데이터 형식: JSON - 데이터 출처: AI Hub의 패션 이미지 데이터셋을 기반으로 구축 [[링크]](https://www.aihub.or.kr/aihubdata/data/view.do?currMenu=&topMenu=&aihubDataSe=data&dataSetSn=51) - 라벨링 유형: 다음을 포함하는 발화 배열 형식의 대화 - 의도 (intent) - 감정 (sentiment) - 이미지 - 요구 패션 속성 리스트 (state) - 대화 내 참조 정보 (coreference) - 라벨링 형식: JSON # 데이터 통계량 | 통계량 | 수치 | |-------|-------:| | 대화 (전체) | 15,293 | | 대화 (state 정보 포함)| 12,687 | | 대화 (coreference 정보 포함)| 12,670 | | 세션 (대화가 지속적으로 이어진 시간적 기간) | 30,792 | | 대화 평균 발화 수 | 35 | | 대화에 등장한 패션 이미지 | 40,461 | | 대화에 포함된 unique 패션 이미지 | 29,829 | | 대화에 포함된 query된 패션 속성 | 58,156 | | 대화에 포함된 query된 unique 패션 속성 | 2,634| | 대화에 포함된 평균 coreference | 19 | # 데이터 구조 ## 예시 ```python [ { 'meta': { 'topic': '24_02_001_플레어 디테일이 있는 미디 기장의 그린 스커트 추천', 'chat_desc': '24_02_001_플레어 디테일이 있는 미디 기장의 그린 스커트 추천' }, 'dialog': [ { 'speaker': 'user', 'msg_type': 'text', 'msg': { 'eid': 'utter-utter-utter-1', 'text': '안녕.', 'annotation': { 'intent': 'CHAT', 'sentiment': 'neutral' } 'last_modified': '2024-1-12 18:2', 'type':'text' }, 'msg_id': 'utter-utter-utter-1' }, { 'speaker': 'system', 'msg_type': 'text', 'msg': { 'eid': 'utter-utter-utter-4', 'text': '어서오세요. 무엇을 도와드릴까요?', 'info': {}, 'annotation': { 'strategy':'PRE-SUGGESTION' }, 'last_modified': '2024-1-12 18:2', 'type': 'text' }, 'msg_id': 'utter-utter-utter-4' }, { 'speaker': 'system', 'msg_type': 'image', 'msg': { 'eid': 'utter-utter-utter-img-24', 'images': [{'bbox_info': {'원피스': {'bbox_xywh': [220, 29, 395, 751], 'bbox_xywh_norm':[0.275, 0.027645376549094377, 0.49375, 0.7159199237368923], 'image_wh': [800, 1049]}}, 'f_name': '1075643', 'query_tags': ['원피스:카테고리:드레스', '원피스:색상:블랙', '원피스:기장:발목'], 'src': 'https://storage.googleapis.com/k_fashion_images/k_fashion_images/1075643.jpg', 'tags': ['스타일:서브스타일:소피스트케이티드', '스타일:스타일:페미닌', '원피스:기장:발목', '원피스:넥라인:브이넥', '원피스:디테일:셔링', '원피스:색상:블랙', '원피스:소매기장:긴팔', '원피스:소재:우븐', '원피스:옷깃:셔츠칼라', '원피스:카테고리:드레스', '원피스:핏:노멀'] }], 'last_modified': '2024-1-12 18:2', 'type': 'image' }, 'msg_id': 'utter-utter-utter-img-24' }, ... ] "state_label": [ ..., { 'added_query_state': ['원피스:카테고리:드레스'], 'cr_query_state': [], 'cr_target': '', 'prev_query_state': ['기타:목적:문학의 밤 행사'], 'query_state': ['원피스:카테고리:드레스', '기타:목적:문학의 밤 행사'], 'summary': '' }, { 'request_state': ['원피스:색상:'] }, { 'added_query_state': ['원피스:색상:블랙'], 'cr_query_state': [], 'cr_target': '', 'prev_query_state': ['원피스:카테고리:드레스', '기타:목적:문학의 밤 행사'], 'query_state': ['원피스:색상:블랙', '원피스:카테고리:드레스', '기타:목적:문학의 밤 행사'], 'summary': '' }, ... ], "cr_label": [ 'entities': [ { 'id': 'E-0', 'mentions': [ { 'target': 'T', 'id': 'TB-2-34', 'start': 14, 'end': 46, 'peer-id': 'T-2-34' }, ... ] }, ... ], "relations": [ {'head': 'E-0', 'tail': 'E-1', 'relation': 'up_down'}, ... ] ] }, ... ] ``` ## JSON 구조 설명 - `meta` - `topic`: 대화의 주제, 예시에서는 특정 아이템 추천을 주제로 사용 - `chat_desc`: 채팅 내용 설명. topic과 같을 수 있음 - `dialog` (대화 내역을 담는 리스트): - `speaker`: 메시지의 발화자, `user` 또는 `system`, `session_seperator` - `msg_type`: 메시지 타입, `text` 또는 `image` - `msg`: 메시지의 세부 내용 - `eid`: 메시지의 고유 ID - `text`: 발화 내용 (`msg_type`이 `text`인 경우) - `annotation`: 메시지에 대한 추가 정보 - `intent`: 사용자의 의도, 예시에서는 `CHAT` - `sentiment`: 감정 상태, `positive`, `negative`, `neutral` - `strategy`: 시스템의 전략 (예시에서는 `PRE-SUGGESTION`을 사용하여 추천 전 제안) - `last_modified`: 마지막 수정 시간 - `type`: 메시지 유형, `text` 또는 `image` - `images` (`msg_type`이 `image`인 경우) - `bbox_info`: 이미지 내의 객체 위치 정보, 좌표(`bbox_xywh`) 및 정규화 좌표(`bbox_xywh_norm`) - `image_wh`: 이미지의 폭과 높이 - `f_name`: 이미지 파일명 - `query_tags`: 이미지 검색 시 사용된 태그 정보 - `src`: 이미지 파일의 URL - `tags`: 이미지의 속성 태그 (스타일, 색상, 길이 등) - `msg_id`: 메시지 ID - `state_label`: 패션 속성 리스트 라벨링 정보 (리스트에 포함된 dictionary 객체는 dialog 리스트에 포함된 객체와 1:1 대응) - `added_query_state`: 발화로 추가된 패션 속성 리스트 - `cr_query_state`: 참조된 패션 속성 리스트 - `cr_target`: 참조 대상 - `prev_query_state`: 이전 패션 속성 리스트 - `query_state`: 현재 패션 속성 리스트 - `summary`: 발화 요약 - `request_state`: system이 user에게 요청 - `cr_label`: 대화 내 모달 간 상호참조 정보 라벨링 정보 (리스트에 포함된 dictionary 객체는 dialog 리스트에 포함된 객체와 1:1 대응) - `entities`: 대화 내에서 나타난 엔티티 리스트 - `id`: 엔티티의 고유 ID - `mentions`: 엔티티에 대한 대화 내 참조 정보 - `target`: T or I (텍스트 또는 이미지) - `id`: 참조의 고유 ID - `start`: 발화 내 참조의 시작 위치 - `end`: 발화 내 참조의 끝 위치 - `peer-id`: 참조 대상의 피어 ID - `relations`: 엔티티 간 관계 정보 - `head`: 관계의 첫 번째 엔티티 ID - `tail`: 관계의 두 번째 엔티티 ID - `relation`: 관계 유형 (up_down, attr,) # 구축 업체 | 업체 | 역할 | |-------|-------| | 셀렉트스타 | 데이터 구축 | | KETI | 구축 가이드라인 및 구축 도구 제공 | # 데이터 변경 이력 | 버전 | 일자 | 변경내용| 비고 | |-------|-------|-------|-------| | 1.0 | 2024-06-01 | State 및 Coreference 라벨링 추가 전 | | | 2.0 | 2024-11-14 | 최초 공개 버전 | | # Acknoledgement 본 연구는 정부(과학기술정보통신부)의 재원으로 지원을 받아 수행된 연구입니다. (No. RS-2022-II220320, 상황인지 및 사용자 이해를 통한 인공지능 기반 1:1 복합대화 기술 개발)