app.py

import gradio as gr
from transformers import BertTokenizer, BertForSequenceClassification
import torch

model = BertForSequenceClassification.from_pretrained("DmitriySv/ticket_classifier")
tokenizer = BertTokenizer.from_pretrained("DmitriySv/ticket_classifier")

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
model = model.to(device)
model.eval()

def classify(text):
    inputs = tokenizer(text, padding=True, truncation=True, max_length=512, return_tensors="pt").to(device)
    
    with torch.no_grad():
        logits_task1, logits_task2 = model(**inputs)

    pred_task1 = torch.argmax(logits_task1, dim=1).item()
    pred_task2 = torch.argmax(logits_task2, dim=1).item()

    return {"Тип": pred_task1, "Приоритет": pred_task2}

interface = gr.Interface(
    fn=classify,  
    inputs=gr.Textbox(label="Введите запрос для классификации"),
    outputs=[gr.Label(label="Тип"), gr.Label(label="Приоритет")],
    title="Классификация запроса по типу и приоритету",
    description="Классификация запроса по типу и приоритету."
)

interface.launch()