metadata

license: cc-by-sa-4.0

LogicKor (한국어 언어모델 다분야 사고력 벤치마크)

개요

LogicKor는 한국어 언어모델 다양한 분야에서의 사고력을 측정하기위해 구성된 LLM-as-a-judge 방식의 멀티턴 벤치마크 데이터셋입니다. 본 데이터셋은 6가지(추론, 수학, 글쓰기, 코딩, 이해, 국어)의 카테고리의 멀티턴 프롬프트 총 42개로 구성되어있습니다.

추론 및 평가 코드는 StableFluffy/LogicKor 저장소를 참고해주세요.

각 카테고리별 세부정보

추론 (Reasoning) - 논리적 사고, 문제 해결
수학 (Math) - 수학적 개념, 계산
글쓰기 (Writing) - 문장간의 호응, 창의력
코딩 (Coding) - 코딩 지식, 기능 구현
이해 (Understanding) - 지문 이해, 정보 추출, 지시 이행
문법 (Grammar) - 한글 맞춤법, 표준 발음법

Contact

Discord Server Link

Citation

@article{logickor,
  title={LogicKor},
  doi={doi:10.57967/hf/2440}
  author={Jeonghwan Park},
  year={2024},
  url={https://github.com/instructkr/LogicKor}
}