Spaces:
Paused
Paused
File size: 4,212 Bytes
f8d688e |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 |
# app.py
import streamlit as st
from transformers import pipeline
@st.cache_resource
def load_model(model_name):
if model_name == "mt5-small":
return pipeline("summarization", model="ak2603/mt5-small-synthetic-data-plus-translated")
# Add space for other models here
elif model_name == "Llama 3.2":
return pipeline("text-generation", model="Walid777/llama3-8b-emails-summarization")
elif model_name == "Llama 7b Instruct":
return None # Placeholder for future implementation
else:
raise ValueError("Model not supported")
# Sample emails with reference summaries (for demonstration only)
SAMPLES = {
"Sample 1": (
"""
Sehr geehrte Damen und Herren,
Ich bitte um die Kündigung meines Vertrages, da ich umziehe.
Vertragsnummer: 40887935006
Zählernummer: 17760731625925
Mit freundlichen Grüßen
Falk Rosemann, Truppring 7, 02044 Wernigerode
""",
"Der Kunde bittet um die Kündigung seines Vertrages aufgrund eines Umzugs und gibt die Vertrags- und Zählernummer an."
),
"Sample 2": (
"""
Die versprochene Rabattaktion wurde in meiner letzten Rechnung nicht berücksichtigt.
Mit freundlichen Grüßen
Prof. Vinko Caspar B.Eng., Jolanda-Pruschke-Platz 835, 42943 Neustadtner Waldnaab
""",
"Der Kunde erwähnt, dass die versprochene Rabattaktion in der letzten Rechnung nicht berücksichtigt wurde."
),
"Sample 3": (
"""
Sehr geehrte Damen und Herren,
Ich habe vor zwei Wochen eine Rechnung erhalten, die ich nicht nachvollziehen kann. Bitte erklären Sie die Details.
Herzliche Grüße
Kirstin Girschner-Meister, Oderwaldallee 510, 35412 Halberstadt
""",
"Der Kunde erwähnt, dass die versprochene Rabattaktion in der letzten Rechnung nicht berücksichtigt wurde und erwartet eine Überprüfung und Korrektur der Rechnung."
)
}
# UI Layout
st.title("🇩🇪 German Email Summarizer")
st.markdown("Fine-tuned summarization for German emails")
# Sidebar for model selection and sample emails
with st.sidebar:
st.header("⚙️ Settings")
model_choice = st.selectbox("Choose Model", ["mt5-small", "Llama 3.2", "Llama 7b Instruct"], index=0)
sample_choice = st.selectbox("Try Sample Email", ["Custom Input"] + list(SAMPLES.keys()))
# Load the selected model
summarizer = load_model(model_choice)
# Main interface
col1, col2 = st.columns(2)
with col1:
if sample_choice == "Custom Input":
input_text = st.text_area("Input Email", height=300, placeholder="Paste your email here...")
else:
input_text = st.text_area("Input Email", value=SAMPLES[sample_choice][0], height=300)
with col2:
if st.button("Generate Summary"):
if summarizer is None:
st.error("Selected model is not implemented yet.")
else:
with st.spinner("Generating summary..."):
try:
# Generate summary
summary_output = summarizer(
input_text,
max_length=150,
do_sample=True,
repetition_penalty=1.5
)[0]
# Dynamically select key based on pipeline task
result_key = 'summary_text' if summarizer.task == 'summarization' else 'generated_text'
result = summary_output[result_key]
st.success("**Generated Summary:**")
st.write(result)
# Show sample comparison only if a sample is selected
if sample_choice != "Custom Input" and sample_choice in SAMPLES:
st.divider()
st.markdown(f"**Sample Reference Summary ({sample_choice}):**")
st.write(SAMPLES[sample_choice][1])
except Exception as e:
st.error(f"Error generating summary: {str(e)}") |