update

app.py

@@ -1,92 +1,80 @@
 import os
-import time
-import tempfile
-from math import floor
-from typing import Optional, List, Dict, Any
-
-import torch
+import logging 
+import sys
+import subprocess
 import gradio as gr
-from transformers import pipeline
-from transformers.pipelines.audio_utils import ffmpeg_read
 
 
-# configuration
-MODEL_NAME = "federerjiang/mambavoice-ja-v1"
-BATCH_SIZE = 4
-CHUNK_LENGTH_S = 15
-FILE_LIMIT_MB = 1000
-TOKEN = os.environ.get('HF_TOKEN', None)
-# device setting
-if torch.cuda.is_available():
-    torch_dtype = torch.bfloat16
-    device = "cuda:0"
-else:
-    torch_dtype = torch.float32
-    device = "cpu"
-# define the pipeline
-pipe = pipeline(
-    model=MODEL_NAME,
-    chunk_length_s=CHUNK_LENGTH_S,
-    batch_size=BATCH_SIZE,
-    torch_dtype=torch_dtype,
-    device=device,
-    trust_remote_code=True,
-    token=TOKEN,
-)
+logging.basicConfig(level=logging.ERROR)
+logger = logging.getLogger(__name__)
 
 
-def get_prediction(inputs, prompt: Optional[str]=None):
-    generate_kwargs = {
-        "language": "japanese", 
-        "task": "transcribe",
-        "length_penalty": 0,
-        "num_beams": 2,
-    }
-    if prompt:
-        generate_kwargs['prompt_ids'] = pipe.tokenizer.get_prompt_ids(prompt, return_tensors='pt').to(device)
-    prediction = pipe(inputs, return_timestamps=True, generate_kwargs=generate_kwargs)
-    text = "".join([c['text'] for c in prediction['chunks']])
-    return text
+def clone_repo():
+    # 从环境变量中获取 GitHub Token
+    github_token = os.getenv('GH_TOKEN')
 
+    if github_token is None:
+        logger.error("GitHub token is not set. Please set the GH_TOKEN secret in your Space settings.")
+        return False
+    
+    # 使用 GitHub Token 进行身份验证并克隆仓库
+    clone_command = f'git clone https://{github_token}@github.com/mamba-ai/invoice_agent.git'
+    repo_dir = 'invoice_agent'
+    if os.path.exists(repo_dir):
+        logger.warning("Repository already exists.")
+        # 将仓库路径添加到 Python 模块搜索路径中
+        # logger.warning(f"Adding {os.path.abspath(repo_dir)} to sys.path")
+        # sys.path.append(os.path.abspath(repo_dir))
+        return True
+    else:
+        logger.info("Cloning repository...")
+        result = subprocess.run(clone_command, shell=True, capture_output=True, text=True)
+    
+    if result.returncode == 0:
+        logger.warning("Repository cloned successfully.")
+        repo_dir = 'invoice_agent'
+        
+        # 将仓库路径添加到 Python 模块搜索路径中
+        sys.path.append(os.path.abspath(repo_dir))
+        logger.warning(f"Adding {os.path.abspath(repo_dir)} to sys.path")
+        return True
+    else:
+        logger.error(f"Failed to clone repository: {result.stderr}")
+        return False
 
-def transcribe(inputs: str):
-    if inputs is None:
-        raise gr.Error("音声ファイルが送信されていません！リクエストを送信する前に、音声ファイルをアップロードまたは録音してください。")
-    with open(inputs, "rb") as f:
-        inputs = f.read()
-    inputs = ffmpeg_read(inputs, pipe.feature_extractor.sampling_rate)
-    inputs = {"array": inputs, "sampling_rate": pipe.feature_extractor.sampling_rate}
-    return get_prediction(inputs)
 
-demo = gr.Blocks()
-mf_transcribe = gr.Interface(
-    fn=transcribe,
-    inputs=[
-        gr.Audio(sources=["microphone"], type="filepath"),
-    ],
-    outputs=["text"],
-    # layout="horizontal",
-    theme="huggingface",
-    title=f"オーディオをMambaVoice-v1で文字起こしする",
-    description=f"ボタンをクリックするだけで、長時間のマイク入力やオーディオ入力を文字起こしできます！デモではMambaVoice-v1モデルを使用しており、任意の長さの音声ファイルを文字起こしすることができます。",
-    allow_flagging="never",
-)
+if clone_repo():
+    # 克隆成功后导入模块    
+    import transcribe_agent.agent as ta
+    demo = gr.Blocks()
+    mf_transcribe = gr.Interface(
+        fn=ta.transcribe,
+        inputs=[
+            gr.Audio(sources=["microphone"], type="filepath"),
+        ],
+        outputs=["text"],
+        # layout="horizontal",
+        theme="huggingface",
+        title=f"オーディオをMambaVoice-v1で文字起こしする",
+        description=f"ボタンをクリックするだけで、長時間のマイク入力やオーディオ入力を文字起こしできます！デモではMambaVoice-v1モデルを使用しており、任意の長さの音声ファイルを文字起こしすることができます。",
+        allow_flagging="never",
+    )
 
-file_transcribe = gr.Interface(
-    fn=transcribe,
-    inputs=[
-        gr.Audio(sources=["upload"], type="filepath", label="Audio file"),
-    ],
-    outputs=["text"],
-    # layout="horizontal",
-    theme="huggingface",
-    title=f"オーディオをMambaVoice-v1で文字起こしする",
-    description=f"ボタンをクリックするだけで、長時間のマイク入力やオーディオ入力を文字起こしできます！デモではMambaVoice-v1モデルを使用しており、任意の長さの音声ファイルを文字起こしすることができます。",
-    allow_flagging="never",
-)
+    file_transcribe = gr.Interface(
+        fn=ta.transcribe,
+        inputs=[
+            gr.Audio(sources=["upload"], type="filepath", label="Audio file"),
+        ],
+        outputs=["text"],
+        # layout="horizontal",
+        theme="huggingface",
+        title=f"オーディオをMambaVoice-v1で文字起こしする",
+        description=f"ボタンをクリックするだけで、長時間のマイク入力やオーディオ入力を文字起こしできます！デモではMambaVoice-v1モデルを使用しており、任意の長さの音声ファイルを文字起こしすることができます。",
+        allow_flagging="never",
+    )
 
-with demo:
-    gr.TabbedInterface([mf_transcribe, file_transcribe], ["Microphone", "Audio file"])
+    with demo:
+        gr.TabbedInterface([mf_transcribe, file_transcribe], ["Microphone", "Audio file"])
 
-demo.queue(max_size=10)
+    demo.queue(max_size=10)
 demo.launch()

requirements.txt

@@ -2,4 +2,6 @@ git+https://github.com/huggingface/transformers
 torch
 yt-dlp
 punctuators==0.0.5
-stable-ts==2.16.0
+stable-ts==2.16.0
+torchaudio
+pydub