app.py

import gradio as gr
from gradio_client import Client as GrClient
import inspect
from gradio import routes
from typing import List, Type

import requests, os, re, asyncio


loop = asyncio.get_event_loop()
gradio_client = GrClient('https://ldhldh-demo.hf.space/')
# Monkey patch
def get_types(cls_set: List[Type], component: str):
    docset = []
    types = []
    if component == "input":
        for cls in cls_set:
            doc = inspect.getdoc(cls)
            doc_lines = doc.split("\n")
            docset.append(doc_lines[1].split(":")[-1])
            types.append(doc_lines[1].split(")")[0].split("(")[-1])
    else:
        for cls in cls_set:
            doc = inspect.getdoc(cls)
            doc_lines = doc.split("\n")
            docset.append(doc_lines[-1].split(":")[-1])
            types.append(doc_lines[-1].split(")")[0].split("(")[-1])
    return docset, types
routes.get_types = get_types

# App code
def chat(x):
    x = f"[***너는 Assistant입니다. 상대에게 다양한 질문을 하며 대화를 이끌고 있습니다. Human에게 긍정적이고, 공감하며, 최대한 길게 대답해주세요***]\nHuman: {x}\n\n###\nAssistant:"

    print("\n___________________\n" + f"{x}")
    
    output = "Hello?"
    return output

with gr.Blocks() as demo:
    count = 0
    aa = gr.Interface(
      fn=chat,
      inputs="text",
      outputs="text",
      description="chat",
    #examples= [[f"\nfriend: 너는 꿈이 뭐야? \nyou: "],[f"\nyou: 너는 무슨 색을 가장 좋아해? \nfriend: 글쎄 너는? \nyou: "]]
        examples= [[f"너는 꿈이 뭐야?"],[f"너는 무슨 색을 가장 좋아해?"]]
    )

    demo.queue(max_size=32).launch(enable_queue=True)