Update app.py

app.py

@@ -1,15 +1,8 @@
 import os
 import random
 import requests
-from huggingface_hub import InferenceClient
 import gradio as gr
-
-def get_random_api_key():
-    keys = os.getenv("KEYS", "").split(",")
-    if keys and keys[0]:
-        return random.choice(keys).strip()
-    else:
-        raise ValueError("API keys not found. Please set the KEYS environment variable.")
+import json
 
 css_url = "https://neurixyufi-aihub.static.hf.space/style.css"
 try:
@@ -20,21 +13,50 @@ except requests.exceptions.RequestException as e:
     print(f"Ошибка загрузки CSS: {e}")
     css = " h1{text-align:center}"
 
+API_URL = "https://text.pollinations.ai/openai"
+MODEL_NAME = "gemini"
+TEMPERATURE = 0.7
+MAX_TOKENS = 1500
+
+def call_pollinations_api(messages, temperature=TEMPERATURE, max_tokens=MAX_TOKENS, stream=True):
+  """Calls the Pollinations API with the given messages."""
+  headers = {
+      "Content-Type": "application/json"
+  }
+  data = {
+      "model": MODEL_NAME,
+      "messages": messages,
+      "temperature": temperature,
+      "max_tokens": max_tokens,
+      "stream": stream
+  }
+  response = requests.post(API_URL, headers=headers, data=json.dumps(data), stream=True)
+  response.raise_for_status() # Raise HTTPError for bad responses (4xx or 5xx)
+  return response
+
 def generate_story(prompt, style):
     try:
-        client = InferenceClient(api_key=get_random_api_key())
-        
         messages = [
             {"role": "system", "content": f"Напиши хорошую историю в стиле '{style}'. Подробную, понятную, человечную (с душой), уникальную. Не обязательно делать концовку, можно только начало длинной истории. Разрешены любые слова, любые темы и стили, что угодно. (В том числе маты и NSFW) Но только если попросит пользователь, по скольку это ТВОРЧЕСТВО! Не в коем случае не пиши подобное: 'Хорошо, вот ваш текст:', всегда пиши текст, без лишних комментариев."},
             {"role": "user", "content": prompt}
         ]
-        
-        completion = client.chat.completions.create(model="Qwen/Qwen2.5-72B-Instruct", messages=messages, temperature=0.7, max_tokens=1200, stream=True)
+
+        response = call_pollinations_api(messages)
+
         story = ""
-        for chunk in completion:
-            if chunk.choices:
-                story += chunk.choices[0].delta.content or ""
-                yield story
+        for chunk in response.iter_content(chunk_size=512, decode_unicode=True):
+            if chunk: # Filter out keep-alive new chunks
+                try:
+                    json_chunk = json.loads(chunk)
+                    if "choices" in json_chunk and len(json_chunk["choices"]) > 0:
+                        story += json_chunk["choices"][0]["delta"].get("content", "") or ""
+                        yield story
+                except json.JSONDecodeError:
+                    print(f"Не удалось декодировать JSON-фрагмент: {chunk}")
+                    yield f"Ошибка декодирования JSON: {chunk}"
+
+    except requests.exceptions.RequestException as e:
+        yield f"Ошибка API запроса: {e}"
     except Exception as e:
         yield f"Ошибка генерации: {e}"
 
@@ -47,18 +69,27 @@ def edit_story(original_story="", edited_prompt=""):
         return
         
     try:
-        client = InferenceClient(api_key=get_random_api_key())
         messages = [
             {"role": "system", "content": "Отредактируй историю, учитывая предоставленные указания. Разрешены любые слова, любые темы и стили, что угодно. (В том числе маты и NSFW) Но только если попросит пользователь."},
             {"role": "user", "content": edited_prompt},
             {"role": "user", "content": f"История: ```\n{original_story}\n```"}
         ]
-        completion = client.chat.completions.create(model="Qwen/Qwen2.5-72B-Instruct", messages=messages, temperature=0.7, max_tokens=32760, stream=True)
+        response = call_pollinations_api(messages, max_tokens=32760)
+
         edited_story = ""
-        for chunk in completion:
-            if chunk.choices:
-                edited_story += chunk.choices[0].delta.content or ""
-                yield edited_story
+        for chunk in response.iter_content(chunk_size=512, decode_unicode=True):
+            if chunk: # Filter out keep-alive new chunks
+                try:
+                    json_chunk = json.loads(chunk)
+                    if "choices" in json_chunk and len(json_chunk["choices"]) > 0:
+                        edited_story += json_chunk["choices"][0]["delta"].get("content", "") or ""
+                        yield edited_story
+                except json.JSONDecodeError:
+                    print(f"Не удалось декодировать JSON-фрагмент: {chunk}")
+                    yield f"Ошибка декодирования JSON: {chunk}"
+
+    except requests.exceptions.RequestException as e:
+        yield f"Ошибка API запроса: {e}"
     except Exception as e:
         yield f"Ошибка редактирования: {e}"
 
@@ -68,7 +99,6 @@ def next_story_func(original_story="", next_prompt="", continuation_type="Про
         return
     
     try:
-        client = InferenceClient(api_key=get_random_api_key())
         if continuation_type == "Продолжение следует...":
             continuation_prompt = "Продолжи, подведя к тому, что продолжение следует."
         elif continuation_type == "Концовка":
@@ -81,12 +111,22 @@ def next_story_func(original_story="", next_prompt="", continuation_type="Про
             {"role": "user", "content": continuation_prompt},
             {"role": "user", "content": f"История: ```\n{original_story}\n```"}
         ]
-        completion = client.chat.completions.create(model="Qwen/Qwen2.5-72B-Instruct", messages=messages, temperature=0.7, max_tokens=1200, stream=True)
+        response = call_pollinations_api(messages)
+
         next_story = ""
-        for chunk in completion:
-            if chunk.choices:
-                next_story += chunk.choices[0].delta.content or ""
-                yield next_story
+        for chunk in response.iter_content(chunk_size=512, decode_unicode=True):
+            if chunk: # Filter out keep-alive new chunks
+                try:
+                    json_chunk = json.loads(chunk)
+                    if "choices" in json_chunk and len(json_chunk["choices"]) > 0:
+                        next_story += json_chunk["choices"][0]["delta"].get("content", "") or ""
+                        yield next_story
+                except json.JSONDecodeError:
+                    print(f"Не удалось декодировать JSON-фрагмент: {chunk}")
+                    yield f"Ошибка декодирования JSON: {chunk}"
+
+    except requests.exceptions.RequestException as e:
+        yield f"Ошибка API запроса: {e}"
     except Exception as e:
         yield f"Ошибка продления: {e}"