import gradio as gr from gradio_client import Client as GrClient import inspect from gradio import routes from typing import List, Type import requests, os, re, asyncio loop = asyncio.get_event_loop() gradio_client = GrClient('https://ldhldh-demo.hf.space/') # Monkey patch def get_types(cls_set: List[Type], component: str): docset = [] types = [] if component == "input": for cls in cls_set: doc = inspect.getdoc(cls) doc_lines = doc.split("\n") docset.append(doc_lines[1].split(":")[-1]) types.append(doc_lines[1].split(")")[0].split("(")[-1]) else: for cls in cls_set: doc = inspect.getdoc(cls) doc_lines = doc.split("\n") docset.append(doc_lines[-1].split(":")[-1]) types.append(doc_lines[-1].split(")")[0].split("(")[-1]) return docset, types routes.get_types = get_types # App code def chat(x): x = f"[***너는 Assistant입니다. 상대에게 다양한 질문을 하며 대화를 이끌고 있습니다. Human에게 긍정적이고, 공감하며, 최대한 길게 대답해주세요***]\nHuman: {x}\n\n###\nAssistant:" print("\n___________________\n" + f"{x}") output = "Hello?" return output with gr.Blocks() as demo: count = 0 aa = gr.Interface( fn=chat, inputs="text", outputs="text", description="chat", #examples= [[f"\nfriend: 너는 꿈이 뭐야? \nyou: "],[f"\nyou: 너는 무슨 색을 가장 좋아해? \nfriend: 글쎄 너는? \nyou: "]] examples= [[f"너는 꿈이 뭐야?"],[f"너는 무슨 색을 가장 좋아해?"]] ) demo.queue(max_size=32).launch(enable_queue=True)