File size: 4,097 Bytes
023cbe7 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 |
---
license: apache-2.0
task_categories:
- question-answering
language:
- th
- en
tags:
- art
pretty_name: Lexitron 2.0 Prompt Finetuning Dataset
size_categories:
- 100K<n<1M
maintainer: Kobkrit Viriyayudhakorn ([email protected])
---
# Lexitron 2.0 Prompt Finetuning Dataset
This dataset is derived from Lexitron 2.0, a Thai-English dictionary developed by NECTEC. It has been processed and formatted for prompt finetuning tasks. The original dataset is from: https://opend-portal.nectec.or.th/dataset/lexitron-2-0
## Maintainer
Kobkrit Viriyayudhakorn ([email protected])
## Dataset Description
The dataset consists of two main files:
1. `lexitron2_telex_finetune.qwen2.txt` - Thai to English lexicon entries in Qwen2 conversation format
2. `lexitron2_telex_finetune.jsonl` - Thai to English lexicon entries in JSONL format
Each file contains dictionary entries formatted in their respective formats.
## Syntax and Example Dataset
### Syntax
The dataset files follow specific formats for ease of use in prompt finetuning tasks.
#### `lexitron2_telex_finetune.jsonl`
Each entry in this file follows the generic prompt format:
```json
{
"instruction": "<instruction in English or Thai>",
"output": "<translation or definition in Thai>"
}
```
- **instruction**: A string that provides the translation task or query. It can be in English or Thai.
- **output**: A string that provides the translation or definition in Thai.
#### `lexitron2_telex_finetune.qwen2.txt`
Each entry in this file follows the Qwen2 conversation format:
```text
<|im_start|>system\n
คุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์<|im_end|>\n
<|im_start|>user\n
คำว่า 'example_word' แปลว่าอะไร<|im_end|>\n
<|im_start|>assistant\n
คำว่า 'example_word' เป็นคำประเภท Noun (คำนาม) แปลเป็นภาษาอังกฤษว่า example\n
ความหมาย: ตัวอย่างความหมาย\n
ตัวอย่างประโยค: ตัวอย่างการใช้ในประโยค<|im_end|>
```
The Qwen2 format consists of three main components:
- **system**: Defines the AI assistant's role and characteristics
- **user**: Contains the translation query or question (in Thai or English)
- **assistant**: Provides the structured response including:
- Word type/category
- English translation
- Definition
- Example sentences (when available)
- Synonyms (when available)
- Antonyms (when available)
- Related words (when available)
- Classifiers (when available)
## Example Dataset
Here is an example of how the dataset is structured:
```json
{"instruction": "Please translate 'a' into Thai", "output": "คำว่า 'a' เป็นคำประเภท Determiner แปลเป็นภาษาไทยว่า 'หนึ่ง (คำนำหน้าคำนามเพื่อแสดงว่าคำนามนั้นๆ ไม่ชี้เฉพาะ)'"}
```
```text
<|im_start|>system\nคุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์<|im_end|>\n<|im_start|>user\nคำว่า 'ดังกล่าวข้างต้น' สามารถใช้ในประโยคอย่างไรได้บ้าง<|im_end|>\n<|im_start|>assistant\nคำว่า 'ดังกล่าวข้างต้น' เป็นคำประเภท Pronoun (คำสรรพนาม) แปลเป็นภาษาอังกฤษว่า abovementioned\nคำที่มีความหมายเหมือนกัน: ดังกล่าว\nตัวอย่างประโยค: หน่วยงานของเราสามารถรับบทบาทได้เป็นอย่างดี ตามสภาพความพร้อมด้านต่างๆ ดังกล่าวข้างต้น<|im_end|>
```
|