File size: 7,118 Bytes
97835c2 21690c9 3955fe2 97835c2 ff0aea3 34014aa 97835c2 2e818b4 972b658 2c2975c fde33e1 2d1803e 8a92e12 2c2975c b8b1a88 2c2975c a25ffba 2d1803e fde33e1 de6be74 97835c2 2d1803e a25ffba fde33e1 a25ffba fde33e1 2e818b4 8a92e12 2e818b4 8a92e12 575b5c6 1f646f5 8a92e12 2e818b4 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 |
import gradio as gr
import torch
import spaces
from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("ping98k/typhoon-7b-rag-instruct-th")
model = AutoModelForCausalLM.from_pretrained("ping98k/typhoon-7b-rag-instruct-th", device_map={"": 0})
'''@spaces.GPU(duration=120)
def response(instruction, history, inputText):
inp = f"""### Instruction:
{instruction}
### Input:
=======START OF DOCUMENT=======
{inputText}
=======END OF DOCUMENT=======
### Response:"""
print(f"Ask: {instruction}")
input_ids = tokenizer(inp, return_tensors='pt').to("cuda")
beam_output = model.generate(**input_ids, max_new_tokens=300)
outputText = tokenizer.decode(beam_output[0], skip_special_token=True)
outputText = outputText.replace(inp,"").replace("<s>","").replace("</s>","")
print(f"Ans: {outputText}")
return outputText
defaultInput = """วัดอรุณราชวรารามราชวรมหาวิหาร หรือที่เรียกสั้น ๆ ว่า วัดอรุณ เป็นวัดโบราณ สร้างในสมัยอยุธยา ที่ชื่อวัดแจ้ง เพราะ พระเจ้าตากฯ ทำศึกเสร็จ แล้วยกทัพกลับมาเป็นเวลาเช้าพอดี ว่ากันว่าเดิมเรียกว่า วัดมะกอก และกลายเป็นวัดมะกอกนอกในเวลาต่อมา เพราะได้มีการสร้างวัดขึ้นอีกวัดหนึ่งในตำบลเดียวกัน แต่อยู่ในคลองบางกอกใหญ่ ชาวบ้านเรียกวัดที่สร้างใหม่ว่า วัดมะกอกใน (วัดนวลนรดิศ) แล้วจึงเรียกวัดมะกอกซึ่งอยู่ปากคลองบางกอกใหญ่ว่า วัดมะกอกนอก ส่วนเหตุที่มีการเปลี่ยนชื่อเป็นวัดแจ้งนั้น เชื่อกันว่า เมื่อสมเด็จพระเจ้ากรุงธนบุรีทรงตั้งราชธานีที่กรุงธนบุรีใน พ.ศ. 2310 ได้เสด็จมาถึงหน้าวัดนี้ตอนรุ่งแจ้ง จึงพระราชทานชื่อใหม่ว่าวัดแจ้ง
เมื่อสมเด็จพระเจ้ากรุงธนบุรีโปรดเกล้าฯ ให้สร้างพระราชวังที่ประทับนั้น ทรงเอาป้อมวิชัยประสิทธิ์ข้างฝั่งตะวันตกเป็นที่ตั้งตัวพระราชวัง แล้วขยายเขตพระราชฐานจนวัดแจ้งเป็นวัดภายในพระราชวัง เช่นเดียวกับวัดพระศรีสรรเพชญ์สมัยอยุธยา และเป็นที่ประดิษฐานพระพุทธมหามณีรัตนปฏิมากรที่อัญเชิญมาจากเวียงจันทน์ใน พ.ศ. 2321 ก่อนที่จะย้ายมาประดิษฐานที่วัดพระศรีรัตนศาสดารามในปี พ.ศ. 2327
ในสมัยรัตนโกสินทร์ รัชสมัยพระบาทสมเด็จพระพุทธยอดฟ้าจุฬาโลกมหาราช สมเด็จพระเจ้าลูกยาเธอ เจ้าฟ้ากรมหลวงอิศรสุนทร ได้เสด็จมาประทับที่พระราชวังเดิม และได้ทรงปฏิสังขรณ์วัดแจ้งใหม่ทั้งวัด แต่ยังไม่ทันสำเร็จก็สิ้นรัชกาลที่ 1 สมเด็จฯ เจ้าฟ้ากรมหลวงอิศรสุนทรได้เสด็จขึ้นครองราชสมบัติเป็นพระบาทสมเด็จพระพุทธเลิศหล้านภาลัย พระองค์ได้ทรงบูรณปฏิสังขรณ์วัดแจ้งต่อมา และพระราชทานนามใหม่ว่า “วัดอรุณราชธาราม” ต่อมามีพระราชดำริที่จะเสริมสร้างพระปรางค์หน้าวัดให้สูงขึ้น แต่สิ้นรัชกาลเสียก่อน จนถึงรัชสมัยพระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัว โปรดเกล้าฯ ให้เสริมพระปรางค์ขึ้นและให้ยืมมงกุฎที่หล่อสำหรับพระพุทธรูปทรงเครื่องที่จะเป็นพระประธานวัดนางนองมาติดต่อบนยอดนภศูล ในรัชสมัยพระบาทสมเด็จพระจอมเกล้าเจ้าอยู่หัวโปรดเกล้าฯ ให้บูรณปฏิสังขรณ์วัดอรุณราชธารามหลายรายการ และให้อัญเชิญพระบรมอัฐิของพระบาทสมเด็จพระพุทธเลิศหล้านภาลัยมาบรรจุไว้ที่พระพุทธอาสน์ของพระประธานในพระอุโบสถด้วย เมื่อการปฏิสังขรณ์เสร็จสิ้นลง พระราชทานนามวัดใหม่ว่า วัดอรุณราชวราราม"""
gr.ChatInterface(
response,
additional_inputs=[
gr.Textbox(defaultInput, label="Input Text"),
],
).launch()'''
@spaces.GPU(duration=120)
def response(inp):
input_ids = tokenizer(inp, return_tensors='pt').to("cuda")
beam_output = model.generate(**input_ids, max_new_tokens=300)
outputText = tokenizer.decode(beam_output[0], skip_special_token=True)
outputText = outputText.replace(inp,"").replace("<s>","").replace("</s>","")
print(f"Ans: {outputText}")
return outputText
gradio_interface = gr.Interface(
fn=response,
inputs = "text",
outputs = "text"
)
gradio_interface.launch() |