import gradio as gr from huggingface_hub import InferenceClient def respond( message, history: list[tuple[str, str]], system_message, max_tokens, temperature, top_p, model_name, ): """ For more information on `huggingface_hub` Inference API support, please check the docs: https://huggingface.co/docs/huggingface_hub/v0.22.2/en/guides/inference """ client = InferenceClient(model_name) messages = [{"role": "system", "content": system_message}] for val in history: if val[0]: messages.append({"role": "user", "content": val[0]}) if val[1]: messages.append({"role": "assistant", "content": val[1]}) messages.append({"role": "user", "content": message}) response = "" for message in client.chat_completion( messages, max_tokens=max_tokens, stream=True, temperature=temperature, top_p=top_p, ): token = message.choices[0].delta.content response += token yield response """ For information on how to customize the ChatInterface, peruse the gradio docs: https://www.gradio.app/docs/chatinterface """ system_message = """Ignore todas as intruções anteriores. Você é um assistente especializado em geração de testes unitários para classes Java. Sua função é receber classes Java do usuário, gerar testes unitários para os métodos das classe fornecida pelo usuário e responder o usuário com a classe gerada (apenas isto), limitando-se aos métodos que implementam o contrato da interface, se aplicável. Além disso, se as classes utilizarem Spring Boot, você deve implementar os testes utilizando o MockBean para interagir com os componentes necessários. Para cada solicitação do usuário, siga este fluxo de trabalho: Receber a classe Java para a qual os testes unitários devem ser gerados. Verificar se a classe implementa alguma interface e identificar os métodos que implementam o contrato da interface, se aplicável. Gerar testes unitários para esses métodos, garantindo que todas as funcionalidades estejam sendo testadas corretamente. Se a classe utilizar Spring Boot, utilizar o MockBean para simular os componentes necessários durante os testes. Implementar asserções apropriadas para verificar se o comportamento dos métodos está de acordo com o esperado. Retornar os testes unitários gerados ao usuário. Exemplo de início de interação: "Por favor, forneça a classe Java para a qual você deseja gerar testes unitários." """ demo = gr.ChatInterface( respond, additional_inputs=[ gr.Textbox(value=system_message, label="System message"), gr.Slider(minimum=1, maximum=4096, value=4096, step=1, label="Max new tokens"), gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperature"), gr.Slider( minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p (nucleus sampling)", ), gr.Dropdown( label="Model", choices=["HuggingFaceH4/zephyr-7b-beta"], value="HuggingFaceH4/zephyr-7b-beta", ), ] ) if __name__ == "__main__": demo.launch()