update sth. at 2024-11-15 17:13:49

README.md

@@ -4,7 +4,7 @@ emoji: ⚡
 colorFrom: purple
 colorTo: indigo
 sdk: gradio
-sdk_version: 4.37.1
+sdk_version: 5.5.0
 app_file: app.py
 pinned: true
 short_description: Chatbot with Unlimited Vision,Image generation and WebSearch

app.py

@@ -2,6 +2,7 @@ import gradio as gr
 from huggingface_hub import InferenceClient
 from PIL import Image
 import requests
+from bs4 import BeautifulSoup
 import json
 import uuid
 
@@ -21,13 +22,23 @@ def check_service_status():
     检查各个服务的可用状态，返回服务状态字典。
     """
     services = {
-        "Gemma": client_gemma.is_available(),
-        "Mixtral": client_mixtral.is_available(),
-        "Llama": client_llama.is_available(),
-        "Yi": client_yi.is_available(),
+        "Gemma": check_inference_client(client_gemma),
+        "Mixtral": check_inference_client(client_mixtral),
+        "Llama": check_inference_client(client_llama),
+        "Yi": check_inference_client(client_yi),
     }
     return services
 
+def check_inference_client(client):
+    """
+    尝试发送简单请求以检查服务的可用性。
+    """
+    try:
+        # 发送一个简单的预测请求以验证可用性，使用空文本预测请求
+        response = client.predict({"inputs": ""})
+        return True if response else False
+    except Exception:
+        return False
 
 def get_service_status_markdown():
     """
@@ -44,8 +55,9 @@ def image_gen(prompt):
     """
     调用图像生成模型生成图像，返回生成的图像路径。
     """
-    client = Client("KingNish/Image-Gen-Pro")
-    image = client.predict("Image Generation", None, prompt, api_name="/image_gen_pro")
+    client = InferenceClient("KingNish/Image-Gen-Pro")
+    response = client.predict("Image Generation", None, prompt, api_name="/image_gen_pro")
+    image = response.get("image")  # 假设返回的结果包含图像
     return image
 
 
@@ -72,10 +84,11 @@ def process_llava_input(message, history, processor):
 
 def llava_answer(inputs, model):
     """
-    调用 LLaVA 模型回答图像问答请求。
+    调用 LLaVA 模型回答图像问答请求，返回回答结果。
     """
-    # 这里调用模型生成回答的逻辑，返回回答结果（省略实现细节）
-    answer = model.generate_answer(inputs)
+    # 使用模型生成回答的逻辑
+    output = model.generate(**inputs)
+    answer = output[0]["generated_text"]  # 假设模型返回文本在 `generated_text` 字段
     return answer
 
 
@@ -83,13 +96,21 @@ def llava_answer(inputs, model):
 
 def search(query):
     """
-    执行网络搜索，返回搜索结果文本。
+    执行网络搜索，返回搜索结果标题和链接。
     """
     search_results = []
     with requests.Session() as session:
         resp = session.get("https://www.google.com/search", params={"q": query, "num": 3})
-        # TODO: 使用 BeautifulSoup 提取返回的搜索结果标题和链接
-        # search_results = [(title, link), ...]
+        soup = BeautifulSoup(resp.text, "html.parser")
+        
+        # 提取搜索结果的标题和链接
+        for item in soup.select('div.g'):
+            title_element = item.select_one("h3")
+            link_element = item.select_one("a")
+            if title_element and link_element:
+                title = title_element.get_text()
+                link = link_element["href"]
+                search_results.append((title, link))
     return search_results
 
 
@@ -99,9 +120,10 @@ def respond(message, history, client):
     """
     根据输入的消息和历史记录，选择合适的模型生成回答。
     """
-    # 根据输入的模型 client 来决定使用哪个模型生成回答
-    response = client.predict(message)
-    return response
+    # 使用指定的模型 client 来生成回答
+    response = client.predict({"inputs": message})
+    answer = response.get("generated_text")  # 假设返回结果包含生成的文本
+    return answer
 
 
 # ===================== Gradio 界面构建 =====================