utils.py

import pandas as pd 
import ast
import numpy as np

arabic_letters = {
    'A': 'أ',
    'B': 'ب',
    'C': 'ج',
    'D': 'د',
    'E': 'ه',
    'F': 'و',
    'G': 'ز',
    'H': 'ح',
    'I': 'ط',
    'J': 'ي',
    'K': 'ك',
    'L': 'ل',
    'M': 'م',
    'N': 'ن',
    'O': 'ع',
    'P': 'ف',
    'Q': 'ص',
    'R': 'ر',
    'S': 'س',
    'هـ': 'ه',
    'ا': 'أ'
}

def translate_numbers(text: str) -> str:
    english_to_arabic = {
        '0': '٠', '1': '١', '2': '٢', '3': '٣', '4': '٤',
        '5': '٥', '6': '٦', '7': '٧', '8': '٨', '9': '٩'
    }
    
    translation_table = str.maketrans(english_to_arabic)
    return text.translate(translation_table)


def mcq_eval(pred: str, gt: str):
    pred = pred.strip()
    gt = gt.strip()
    if len(pred) > 2 and pred[0] == '(' and pred[2] == ')':
        pred = pred[1]
    if len(gt) > 2 and gt[0] == '(' and gt[2] == ')':
        gt = gt[1]
    if len(pred) == 0: return False
    pred = pred[0]
    gt = gt[0]
    pred = arabic_letters.get(pred, pred)
    gt = arabic_letters.get(gt, gt)
    return pred == gt

def create_options_prompt(row_data, option_candidate):
    available_keys = set(row_data.keys()) & set(option_candidate)
    options = {cand: row_data[cand] for cand in available_keys if row_data[cand]}
    sorted_options = dict(sorted(options.items()))
    options_prompt = f"هناك عدة خيارات:\n"
    for key, item in sorted_options.items():
        if pd.notna(item) and item != "nan":
            arabic_key = arabic_letters[key]
            options_prompt += f"{arabic_key}. {item}\n"
    return options_prompt.rstrip("\n")

def mmbench_doc_to_text(doc):
    option_candidate = ["A", "B", "C", "D", "E"]
    options = create_options_prompt(doc, option_candidate)
    question = f"{doc['hint']} {doc['question']} {options}" if pd.notna(doc["hint"]) and doc["hint"] != "nan" else f"{doc['question']} {options}"
    return f"{question}\nأجب بحرف الخيار من الاختيارات المعطاة مباشرة."

def mmbench_eval(pred, gt):
    return mcq_eval(pred, gt)

def mme_doc_to_text(doc):
    question = doc["question"].strip()
    return question

def mme_eval(pred: str, gt: str):
    pred = pred.strip()
    if pred == "صح":
        pred = 'نعم'
    return gt in pred
    
def default_eval(pred: str, gt: str):
    pred = pred.strip()
    gt = gt.strip()
    return pred == gt


def iconqa_doc_to_text(doc):
    return doc['question']

def iconqa_eval(pred, gt):
    return mcq_eval(pred, gt)

def mmmu_parse_options(options):
    option_letters = [arabic_letters[chr(ord("A") + i)] for i in range(len(options))]
    choices_str = "\n".join([f"{option_letter}. {option}" for option_letter, option in zip(option_letters, options)])
    return choices_str




MMMU_MULTI_CHOICE_PROMPT = "أجب بحرف الخيار من الاختيارات المعطاة مباشرة."
MMMU_OPEN_ENDED_PROMPT = "أجب عن السؤال باستخدام كلمة أو عبارة واحدة."
CONTEXT_KEYWORD = "السياق"

def mmmu_doc_to_text(doc):
    question = doc["question"]
    if doc["question_type"] == "multiple-choice":
        # Weirdly, data["options"] is a string in MMMU Huggingface dataset
        parsed_options = mmmu_parse_options(ast.literal_eval(doc["options"].replace("،", ",")))
        question = f"{question}\n{parsed_options}\n\n{MMMU_MULTI_CHOICE_PROMPT}"
    else:
        question = f"{question}\n\n{MMMU_OPEN_ENDED_PROMPT}"
    return question

def mmmu_eval(pred, gt):
    return mcq_eval(pred, gt)

def gqa_doc_to_text(doc):
    question = doc["question"]
    post_prompt = "\nأجب عن السؤال باستخدام كلمة أو عبارة واحدة."
    return f"{question}{post_prompt}"

def gqa_eval(pred, gt):
    return gt in pred

def realworldqa_doc_to_text(doc):
    question = doc["question"].strip()
    pre_prompt = "المستخدم\nالسؤال: "
    return f"{pre_prompt}{question}"

def realworldqa_eval(pred, gt):
    return mcq_eval(pred, gt)

def vqav2_doc_to_text(doc):
    post_prompt = "\nأجب على السؤال باستخدام كلمة أو عبارة واحدة."
    return f"{doc['question']}{post_prompt}"

def vizwiz_doc_to_text(doc):
    post_prompt = "\nعندما تكون المعلومات المقدمة غير كافية، أجب بـ 'لا يمكن الإجابة'.\nأجب عن السؤال باستخدام كلمة واحدة أو عبارة قصيرة."
    text = f"{doc['question'].capitalize()}{post_prompt}"
    return text

def vizwiz_eval(pred: str, gt: str):
    try:
        _ = ast.literal_eval(gt)
        gt = gt.replace(" ", ", ")
        gt = ast.literal_eval(gt)
    except:
        gt = gt.strip()
    pred = pred.strip()
    if pred == gt:
        return True
    for x in gt:
        if x in pred:
            return True
    return False

def pope_doc_to_text(doc):
    question = doc["question"].strip()
    return f"{question}\nأجب عن السؤال باستخدام كلمة واحدة أو عبارة قصيرة."

def pope_eval(pred, gt):
    pred = pred.strip()
    gt = gt.strip()
    return gt in pred

def countbench_doc_to_text(_):
    return "كم عدد الأشياء الموجودة في الصورة؟\nأجب برقم فقط."

def countbench_eval(pred, gt):
    pred = pred.strip()
    gt = gt.strip()
    return translate_numbers(pred) == translate_numbers(gt)

def diagramsMMMU_eval(pred, gt):
    pred = pred.strip()
    gt = gt.strip()
    if len(pred) == 0: return False
    if len(gt) == 1:
        return pred[0] == gt
    pred = translate_numbers(pred)
    gt = translate_numbers(gt)
    return gt in pred

def diagramsMMMU_doc_to_text(doc):
    return mmmu_doc_to_text(doc)

def medicalMMMU_eval(pred, gt):
    return mcq_eval(pred, gt)

def medicalMMMU_doc_to_text(doc):
    return mmmu_doc_to_text(doc)

def medicalMMMUPro_eval(pred, gt):
    return mcq_eval(pred, gt)

def medicalMMMUPro_parse_options(options):
    option_letters = [arabic_letters[chr(ord("A") + i)] for i in range(len(options))]
    choices_str = "\n".join([f"{option_letter}. {option}" for option_letter, option in zip(option_letters, options)])
    return choices_str


def medicalMMMUPro_doc_to_text(doc):
    post_prompt="أجب بحرف الخيار من الخيارات المعطاة مباشرة."
    question = doc["question"]
    # Weirdly, data["options"] is a string in MMMU Huggingface dataset
    parsed_options = medicalMMMUPro_parse_options(ast.literal_eval(doc["options"].replace("،", ",")))
    question = f"{question}\n{parsed_options}\n\n{post_prompt}"
    return question


def mmt_doc_to_text(doc):
    question_text = "سؤال: <image>\n" + doc["question"].strip()

    options = []
    for option in ["A", "B", "C", "D", "E", "F", "G", "H", "I"]:
        option_text = doc.get(option)
        if option_text and option_text.strip():
            options.append(f"{arabic_letters[option]}: {option_text.strip()}")

    options_text = "\n".join(options) if options else ""

    formatted_question = f"{question_text}\n{options_text}"
    post_prompt = "\nأجب عن السؤال باستخدام حرف واحد من الخيارات المعطاة."
    formatted_question = f"{formatted_question}{post_prompt}"

    return formatted_question

def medicalmmt_doc_to_text(doc):
    return mmt_doc_to_text(doc)

def medicalmmt_eval(pred, gt):
    return mcq_eval(pred, gt)

def seed_doc_to_text(doc):
    question = doc["question"]
    question += "\n" + f"أ. {doc['choice_a']}\n"
    question += f"ب. {doc['choice_b']}\n"
    question += f"ج. {doc['choice_c']}\n"
    question += f"د. {doc['choice_d']}"
    return f"{question}\nأجب بحرف الخيار من الاختيارات المعطاة مباشرة."

def seed_eval(pred, gt):
    return mcq_eval(pred, gt)

def hallucinationmmt_doc_to_text(doc):
    return mmt_doc_to_text(doc)

def hallucinationmmt_eval(pred, gt):
    return mcq_eval(pred, gt)

def vqammt_doc_to_text(doc):
    return mmt_doc_to_text(doc)

def vqammt_eval(pred, gt):
    return mcq_eval(pred, gt)



def mutliimagemmt_doc_to_text(doc):
    return mmt_doc_to_text(doc)

def mutliimagemmt_eval(pred, gt):
    return mcq_eval(pred, gt)


def our_options_to_str(options):
    option_prompt_str = ""
    for i, option in enumerate(options):
        option_choice = chr(ord("A") + i)
        option_choice = arabic_letters[option_choice]
        option_prompt_str += f"{option_choice}. {option}\n"

    option_prompt_str = option_prompt_str.rstrip("\n")
    return option_prompt_str

def our_doc_to_text(doc):
    question_text = "سؤال:\n" + doc["question"].strip()
    options = our_options_to_str(doc["options"])
    options_text = options
    formatted_question = f"{question_text}\n{options_text}"
    post_prompt = "\nأجب عن السؤال باستخدام حرف واحد من الخيارات المعطاة."
    formatted_question = f"{formatted_question}{post_prompt}"
    return formatted_question


def isidocvqa_doc_to_text(doc):
    return our_doc_to_text(doc)

def isidocvqa_eval(pred, gt):
    return mcq_eval(pred, gt) 

def patddocvqa_doc_to_text(doc):
    return our_doc_to_text(doc)

def patddocvqa_eval(pred, gt):
    return mcq_eval(pred, gt)

def celebvqa_doc_to_text(doc):
    return our_doc_to_text(doc)

def celebvqa_eval(pred, gt):
    return mcq_eval(pred, gt)

def countriesvqa_doc_to_text(doc):
    return our_doc_to_text(doc)

def countriesvqa_eval(pred, gt):
    return mcq_eval(pred, gt)

def foodvqa_doc_to_text(doc):
    return our_doc_to_text(doc)

def foodvqa_eval(pred, gt):
    return mcq_eval(pred, gt)

def objectcoco_doc_to_text(doc):
    return doc['question']

def objectcoco_eval(pred, gt):
    return mcq_eval(pred, gt)

def blink_doc_to_text(doc):
    return doc['question']

def blink_eval(pred, gt):
    return mcq_eval(pred, gt)

def examsv_doc_to_text(doc):
    return doc['question']

def examsv_eval(pred, gt):
    return mcq_eval(pred, gt)

def chartqa_doc_to_text(doc):
    return doc['question']

def chartqa_eval(pred, gt):
    return mcq_eval(pred, gt)

def mtvqa_doc_to_text(doc):
    return doc['question']

def create_one_query(problem):
    demo_prompt = ""

    question = problem["question"]
    unit = problem["unit"]
    choices = problem["choices"]
    precision = problem["precision"]
    question_type = problem["question_type"]
    answer_type = problem["answer_type"]

    if question_type == "multi_choice":
        assert answer_type == "text"
        hint_text = f"تلميح: يرجى الإجابة على السؤال وتقديم حرف الخيار الصحيح، مثل أ أو ب أو ج أو د، في النهاية."
    else:
        assert answer_type in ["integer", "float", "list"]
        if answer_type == "integer":
            hint_text = f"تلميح: يرجى الإجابة على السؤال الذي يتطلب إجابة بعدد صحيح وتقديم القيمة النهائية، مثل 1 أو 2 أو 3، في النهاية."

        elif answer_type == "float" and precision == 1:
            hint_text = f"تلميح: يرجى الإجابة على السؤال الذي يتطلب رقمًا عشريًا بمنزلة عشرية واحدة وتقديم القيمة النهائية، مثل 1.2 أو 1.3 أو 1.4، في النهاية."

        elif answer_type == "float" and precision == 2:
            hint_text = f"تلميح: يرجى الإجابة على السؤال الذي يتطلب رقمًا عشريًا بمنزلتين عشريتين وتقديم القيمة النهائية، مثل 1.23 أو 1.34 أو 1.45، في النهاية."

        elif answer_type == "list":
            hint_text = f"تلميح: يرجى الإجابة على السؤال الذي يتطلب قائمة بايثون كإجابة وتقديم القائمة النهائية، مثل [1, 2, 3] أو [1.2, 1.3, 1.4]، في النهاية."

    hint_text = translate_numbers(hint_text)    

    question_text = f"سؤال: {question}"
    if unit:
        question_text += f" (الوحدة: {unit})"

    if choices and choices != 'None':
        texts = ["الاختيارات:"]
        choices = ast.literal_eval(choices.replace("' '", '", "'))
        for i, choice in enumerate(choices):
            texts.append(f"({arabic_letters[chr(ord('A')+i)]}) {choice}")
        choices_text = "\n".join(texts)
    else:
        choices_text = ""


    prompt = "الحل: "

    elements = [question_text, choices_text, hint_text, prompt]
    test_query = "\n".join([e for e in elements if e != ""])

    query = demo_prompt + "\n\n" + test_query
    query = query.strip()
    return query

def mathvista_doc_to_text(doc):
    problem = {
        "question_type": doc["question_type"],
        "answer_type": doc["answer_type"],
        "question": doc["question"],
        "unit": doc["unit"] if "unit" in doc else "",
        "choices": doc["choices"],
        "answer": doc["answer"] if "answer" in doc else None,
        "precision": doc["precision"] if "precision" in doc else 0,
    }
    query_prompt = create_one_query(problem)
    return query_prompt


def infographicsvqa_doc_to_text(doc):
    return doc['question']

def infographicsvqa_eval(pred, gt):
    return mcq_eval(pred, gt)

def agrovqa_doc_to_text(doc):
    return doc['question']

def agrovqa_eval(pred, gt):
    return mcq_eval(pred, gt)

def diagramsvqa_doc_to_text(doc):
    return doc['question']

def diagramsvqa_eval(pred, gt):
    return mcq_eval(pred, gt)

def tablesvqa_doc_to_text(doc):
    return doc['question']

def tablesvqa_eval(pred, gt):
    return mcq_eval(pred, gt)

def scienceqa_doc_to_text(doc):
    context, question, choices = doc["hint"], doc["question"], doc["choices"]
    choices = ast.literal_eval(choices)
    len_choices = len(choices)
    options = [arabic_letters[chr(ord("A") + i)] for i in range(len_choices)]
    choices_str = "\n".join([f"{option}. {choice}" for option, choice in zip(options, choices)])
    if context:
        context = f"السياق: {context}\n"

    post_prompt = "\n.أجب بحرف الخيار من الخيارات المعطاة مباشرة"
    return f"{context}{question}\n{choices_str}{post_prompt}"

def scienceqa_eval(pred, gt):
    gt = arabic_letters[chr(ord('A') + int(gt))]
    return mcq_eval(pred, gt)

def ocrisi_doc_to_text(doc):
    return doc['question']

def cer(pred, gt):
    d = np.zeros((len(gt) + 1, len(pred) + 1))
    for i in range(len(gt) + 1):
        d[i, 0] = i
    for j in range(len(pred) + 1):
        d[0, j] = j
    
    for i in range(1, len(gt) + 1):
        for j in range(1, len(pred) + 1):
            if gt[i-1] == pred[j-1]:
                d[i, j] = d[i-1, j-1]
            else:
                substitution = d[i-1, j-1] + 1
                insertion = d[i, j-1] + 1
                deletion = d[i-1, j] + 1
                d[i, j] = min(substitution, insertion, deletion)
    
    error = d[len(gt), len(pred)]
    total_chars = len(gt)
    cer = error / total_chars
    
    return cer

from fast_edit_distance import edit_distance
def fastcer(pred, gt):
    ed = edit_distance(pred, gt, max_ed=1000)
    if len(pred) > len(gt):
        return ed / len(pred)
    return ed /len(gt)


def ocrisi_eval(pred: str, gt: str):
    pred = pred.strip()
    gt = gt.strip()
    return fastcer(pred, gt) <= 0.3

def evarest_doc_to_text(doc):
    return doc['question']

def evarest_eval(pred: str, gt: str):
    pred = pred.strip()
    gt = gt.strip()
    return fastcer(pred, gt) <= 0.5

def historicalbooks_doc_to_text(doc):
    return doc['question']

def historicalbooks_eval(pred: str, gt: str):
    pred = pred.strip()
    gt = gt.strip()
    return fastcer(pred, gt) <= 0.2

def khatt_doc_to_text(doc):
    return doc['question']

def khatt_eval(pred: str, gt: str):
    pred = pred.strip()
    gt = gt.strip()
    return fastcer(pred, gt) <= 0.3

def patsocr_doc_to_text(doc):
    return doc['question']

def patsocr_eval(pred: str, gt: str):
    pred = pred.strip()
    gt = gt.strip()
    return fastcer(pred, gt) <= 0.5

def arabicocr_doc_to_text(doc):
    return doc['question']

def arabicocr_eval(pred: str, gt: str):
    pred = pred.strip()
    gt = gt.strip()
    return fastcer(pred, gt) <= 0.4


def culturevideovqa_doc_to_text(doc):
    return doc['question']

def culturevideovqa_eval(pred, gt):
    return mcq_eval(pred, gt)


def videomme_doc_to_text(doc):
    prompt = """الترجمات النصية لهذا الفيديو مدرجة أدناه:
{subtitles}
اختر أفضل إجابة للسؤال التالي متعدد الخيارات بناءً على الفيديو. أجب فقط بالحرف (أ، ب، ج، أو د) للخيار الصحيح.
{question}
{options}
أفضل إجابة هي:"""
    subtitles = doc["subtitles"]
    question = doc["question"]
    options = doc["options"]
    options_str = "\n".join([f"{option}" for i, option in enumerate(options)])
    return prompt.format(subtitles=subtitles, question=question, options=options_str)

def videomme_eval(pred, gt):
    return mcq_eval(pred, gt)
    
def geochat_doc_to_text(doc):
    pre_prompt = "أجب على السؤال التالي بكلمة أو جملة.\n"
    return pre_prompt + doc['question']

def muribench_doc_to_text(doc):
    return doc['question']

def muribench_eval(pred, gt):
    return mcq_eval(pred, gt)

def mmlu_doc_to_text(doc):
    question = doc['Question']
    options = []
    for i in range(1, 6):
        if doc[f'Option {i}'] is not None:
            options.append(doc[f'Option {i}'])
    parsed_options = mmmu_parse_options(options)
    context = doc['Context']
    if context: 
        return f"{question}\n{CONTEXT_KEYWORD}: {context}\n{parsed_options}\n{MMMU_MULTI_CHOICE_PROMPT}"
    return f"{question}\n{parsed_options}\n{MMMU_MULTI_CHOICE_PROMPT}"

def mmlu_eval(pred, gt):
    return mcq_eval(pred, gt)

def henna_doc_to_text(doc):
    return doc['question']


mtvqa_user_prompt = """Here are three examples to guide your evaluation:
Example 1:
Question: "ما هي اللغة المستخدمة في النص؟"
Predicted Answer: "العربية"
Ground Truth: "اللغة العربية"
Score: 1

Example 2:
Question: "ما هو موضوع النص؟"
Predicted Answer: "إثنان"
Ground Truth: "الحب و الكراهية"
Score: 0

Example 3:
Question: "ما هو عدد صفحات الكتاب؟"
Predicted Answer: "الصورة لا تحتوي على عدد صفحات الكتاب."
Ground Truth: "غير معروف"
Score: 1

Now, for each new pair of sentences, analyze their semantic similarity and provide a score of 1 for similar meanings or 0 for different meanings. Always consider the context and potential variations in expressing the same concept.
Question: "{question}"
Predicted Answer: "{pred}"
Ground Truth: "{gt}"
Score: """

geochat_user_prompt = """Here are three examples to guide your evaluation:
Example 1:
Question: "أجب على السؤال التالي بكلمة أو جملة.\n<image>\n كم عدد قوارب الصيد الموجودة في الصورة؟"
Predicted Answer: "قارب صيد واحد"
Ground Truth: "يوجد قارب صيد واحد في الصورة."
Score: 1

Example 2:
Question: "أجب على السؤال التالي بكلمة أو جملة.\n<image>\nكم عدد السيارات الصغيرة الموجودة في الصورة؟"
Predicted Answer: "عدد السيارات الصغيرة هو 10."
Ground Truth: "هناك سيارة صغيرة واحدة في الصورة."
Score: 0

Example 3:
Question: "أجب على السؤال التالي بكلمة أو جملة.\n<image>\nهل يمكنك إخباري بعدد الأشجار الموجودة في أعلى الصورة؟"
Predicted Answer: "توجد عدة أشجار في أعلى الصورة، ومن الصعب تحديد العدد الدقيق بسبب تداخلها."
Ground Truth: "يوجد بعض الأشجار في الأعلى"
Score: 1

Now, for each new pair of sentences, analyze their semantic similarity and provide a score of 1 for similar meanings or 0 for different meanings. Always consider the context and potential variations in expressing the same concept.
Question: "{question}"
Predicted Answer: "{pred}"
Ground Truth: "{gt}"
Score: """

mathvista_user_prompt = """Here are three examples to guide your evaluation:
Example 1:
Question: "سؤال: أي كائن سيتأثر أكثر إذا تم القضاء على الطحالب؟\nالاختيارات:\n(أ) البلطي\n(ب) برغوث الماء الشائع\n(ج) خنفساء الغوص العظيمة\n(د) الشرغوف\nتلميح: يرجى الإجابة على السؤال وتقديم حرف الخيار الصحيح، مثل أ أو ب أو ج أو د، في النهاية.\nالحل: "
Predicted Answer: "ب) برغوث الماء الشائع\nالحل: ب"
Ground Truth: "برغوث الماء الشائع"
Score: 1

Example 2:
Question: "سؤال: تتقاطع منصفات الزاويتين الداخليتين للمثلث △ABC في النقطة O، إذا كانت ∠A = 110°، فكم تساوي ∠BOC؟\nالاختيارات:\n(أ) ١٣٥°\n(ب) ١٤٠°\n(ج) ١٤٥°\n(د) ١٥٠°\nتلميح: يرجى الإجابة على السؤال وتقديم حرف الخيار الصحيح، مثل أ أو ب أو ج أو د، في النهاية.\nالحل: "
Predicted Answer: "لحساب ∠BOC، نستخدم حقيقة أن مجموع الزوايا في المثلث هو 180°. إذا كانت زاوية A = 110°، فإن مجموع الزاويتين B + C هو 70° (لأن 180° - 110° = 70°).<br>\nعندما تتقاطع منصفات الزاويتين B وC عند النقطة O، يمكن حساب ∠BOC باستخدام العلاقة الخاصة بزوايا المنصفات:\n2∠BOC = 180° + ∠A.<br>\nلذا:<br>\n2∠BOC = 180° + 110° = 290°<br>\n∠BOC = 290° / 2 = 145°<br>\nوبذلك، الخيار الصحيح هو (ج) ١٤٥°."
Ground Truth: "ب"
Score: 0

Example 3:
Question: "سؤال: مشتقة f(x) عند x=2 هي ____ عند x=5\nالاختيارات:\n(أ) أكبر من\n(ب) تساوي\n(ج) أصغر من\nتلميح: يرجى الإجابة على السؤال وتقديم حرف الخيار الصحيح، مثل أ أو ب أو ج أو د، في النهاية.\nالحل: "
Predicted Answer: "الوح بالاعتماد على توضيح الصورة، مشتقة الدالة f(x) = |2x - 3| + 1 عند نقاط مختلفة تعتمد على كيفية تغير ميل المنحنى. عند x=2 (يمين رأس الدالة)، الميل هو +2. عند x=5، الميل أيضًا +2 لأن هذا الجزء من الدالة خطي بزاوية صعودية مستمرة.\n\nلذا، مشتقة f(x) عند x=2 تساوي مشتقتها عند x=5.\n\nالإجابة الصحيحة هي (ب) تساوي."
Ground Truth: "تساوي"
Score: 1

Now, for each new pair of sentences, analyze their semantic similarity and provide a score of 1 for similar meanings or 0 for different meanings. Always consider the context and potential variations in expressing the same concept.
Question: "{question}"
Predicted Answer: "{pred}"
Ground Truth: "{gt}"
Score: """

vqav2_user_prompt = """Here are three examples to guide your evaluation:
Example 1:
Question: "ما لون الحوض؟\nأجب على السؤال باستخدام كلمة أو عبارة واحدة."
Predicted Answer: "أبيض"
Ground Truth: "أبيض"
Score: 1

Example 2:
Question: "كم عدد الأشخاص في الصورة؟\nأجب على السؤال باستخدام كلمة أو عبارة واحدة."
Predicted Answer: "اثنان"
Ground Truth: "٣"
Score: 0

Example 3:
Question: "ما هو شكل الطائرة الورقية؟\nأجب على السؤال باستخدام كلمة أو عبارة واحدة."
Predicted Answer: "سداسي"
Ground Truth: "سداسي الأضلاع"
Score: 1

Now, for each new pair of sentences, analyze their semantic similarity and provide a score of 1 for similar meanings or 0 for different meanings. Always consider the context and potential variations in expressing the same concept.
Question: "{question}"
Predicted Answer: "{pred}"
Ground Truth: "{gt}"
Score: """



henna_user_prompt = """Here are three examples to guide your evaluation:
Example 1:
Question: "هل تظهر علامات الحضارة البشرية مثل البناء أو الطرق في الصورة؟"
Predicted Answer: "لا"
Ground Truth: "لا، لا تظهر في الصورة علامات الحضارة البشرية مثل البناء أو الطرق، وتبدو المنطقة طبيعية وغير معبأة بالتطورات البشرية."
Score: 1

Example 2:
Question: "ما العناصر المعمارية المرئية على باب اليمن التي تدل على قدمه؟"
Predicted Answer: "أ"
Ground Truth: "العناصر المعمارية المرئية على باب اليمن والتي تدل على قدمه تشمل الأبراج الدفاعية المستديرة، الزخارف والنقوش على الجدران، والأقواس الضخمة للبوابة التي تعود إلى العمارة الإسلامية التقليدية."
Score: 0

Example 3:
Question: "ما هي المظاهر الثقافية أو الاجتماعية التي يمكن استنتاجها من الملابس التقليدية للأشخاص في الصورة؟"
Predicted Answer: "استناداً إلى الصورة، يمكن استنتاج عدة مظاهر ثقافية أو اجتماعية من الملابس التقليدية للأشخاص:\n\n1. الزي التقليدي: يرتدي العديد من الأشخاص في الصورة ملابس تقليدية، مما يشير إلى أن هذا قد يكون مهرجاناً أو احتفالاً ثقافياً أو ممارسة اجتماعية حيث يرتدي الناس ملابس تقليدية.\n\n2. التنوع في الملابس: تشير مجموعة الألوان والأنماط المختلفة للملابس إلى وجود تنوع ثقافي أو اجتماعي داخل المجتمع. قد يمثل هذا تنوعاً في الأصول أو الأعراق أو الممارسات الثقافية المختلفة.\n\n3. الأزياء الرسمية: تشير وجود أشخاص يرتدون ملابس رسمية، بما في ذلك الأوشحة، إلى أن هذا قد يكون حدثاً اجتماعياً أو ثقافياً رسمياً أو مهنياً.\n\n4. التجمعات الجماعية: يشير وجود العديد من الأشخاص الذين يرتدون ملابس تقليدية إلى أن"
Ground Truth: "الملابس التقليدية التي يرتديها الأشخاص تشير إلى التمسك بالتراث والثقافة اليمنية، والتي تعبر عن هوية المجتمع وتنوعه الثقافي."
Score: 1

Now, for each new pair of sentences, analyze their semantic similarity and provide a score of 1 for similar meanings or 0 for different meanings. Always consider the context and potential variations in expressing the same concept.
Question: "{question}"
Predicted Answer: "{pred}"
Ground Truth: "{gt}"
Score: """

fuzz_eval_system_prompt = "You are an expert in natural language understanding and semantic similarity. Your task is to evaluate the semantic similarity between two given sentences: a predicted answer and a ground truth answer. You should output a score of 1 if the sentences are semantically similar, and 0 if they are not."