Update app.py

app.py

@@ -1,10 +1,10 @@
 #QuantumNova
 
-import requests
+import gradio as gr
 import random
 import json
 from huggingface_hub import InferenceClient
-import torch
+import requests
 
 
 class QuasiKI:
@@ -33,27 +33,23 @@ class QuasiKI:
             print(f"Fehler beim Abrufen von Quanten-Zufallszahlen: {e}")
             self.quantum_randomness = [random.randint(0, 255) for _ in range(10)]
 
-    def process_input(self, user_input):
-        user_input = user_input.strip()
-        if not user_input:
-            return "Bitte gib eine gültige Eingabe ein."
-
-        if user_input.lower().startswith("suche nach"):
-            query = user_input[10:].strip()
-            if not query:
-                return "Bitte gib etwas ein, wonach ich suchen soll."
-            print(f"Suche nach: {query}")
-            return "Die Websuche ist vorübergehend deaktiviert."
-
-        return self.generate_response(user_input)
-
-    def generate_response(self, input_text):
+    def generate_response(self, input_text, max_tokens, temperature, top_p):
         if not self.client:
             return "Das Modell ist derzeit nicht verfügbar."
 
         try:
-            response = self.client.chat_completion([{"role": "user", "content": input_text}])
-            return response['choices'][0]['message']['content'].strip()
+            response = self.client.chat_completion([{"role": "user", "content": input_text}], 
+                max_tokens=max_tokens, 
+                temperature=temperature, 
+                top_p=top_p, 
+                stream=True)
+
+            response_text = ""
+            for message in response:
+                token = message.choices[0].delta.content
+                response_text += token
+            return response_text.strip()
+
         except Exception as e:
             return f"Fehler beim Generieren der Antwort: {e}"
 
@@ -98,23 +94,49 @@ class QuasiKI:
             print("Kein gespeichertes Gedächtnis gefunden.")
 
 
-if __name__ == "__main__":
-    ai = QuasiKI(max_feedback=3)
-    ai.fetch_quantum_randomness()
-    ai.load_memory()
-
-    while True:
-        user_input = input("\nWas möchtest du sagen? (oder 'exit' zum Beenden): ")
-        if user_input.lower() == "exit":
-            ai.save_memory()
-            print("Bis bald!")
-            break
-
-        response = ai.process_input(user_input)
-        print(f"AI: {response}")
+# Gradio-Interface-Funktion
+def respond(
+    message,
+    history: list,
+    system_message,
+    max_tokens,
+    temperature,
+    top_p,
+):
+    ai = QuasiKI(max_feedback=3)  # QuasiKI mit Feedback limit initialisieren
+    ai.fetch_quantum_randomness()  # Quanten-Zufallszahlen abrufen
+    ai.load_memory()  # Gedächtnis laden
+
+    messages = [{"role": "system", "content": system_message}]
+
+    for val in history:
+        if val[0]:
+            messages.append({"role": "user", "content": val[0]})
+        if val[1]:
+            messages.append({"role": "assistant", "content": val[1]})
+
+    messages.append({"role": "user", "content": message})
+
+    response_text = ai.generate_response(message, max_tokens, temperature, top_p)
+    return response_text
+
+
+# Gradio Demo starten
+demo = gr.ChatInterface(
+    respond,
+    additional_inputs=[
+        gr.Textbox(value="Du bist ein freundlicher Chatbot.", label="Systemnachricht"),
+        gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Maximale neue Token"),
+        gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperatur"),
+        gr.Slider(
+            minimum=0.1,
+            maximum=1.0,
+            value=0.95,
+            step=0.05,
+            label="Top-p (Nucleus Sampling)",
+        ),
+    ],
+)
 
-        try:
-            feedback_score = ai.collect_feedback()
-            ai.learn(feedback_score)
-        except Exception as e:
-            print(f"Fehler beim Sammeln von Feedback: {e}")
+if __name__ == "__main__":
+    demo.launch()