Sakalti commited on
Commit
f060548
·
verified ·
1 Parent(s): 54af0d0

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +6 -6
app.py CHANGED
@@ -2,9 +2,9 @@ import gradio as gr
2
  import requests
3
  import torch
4
  from transformers import AutoModel, AutoTokenizer
5
- from huggingface_hub import HfApi, hf_hub_download
6
 
7
- def convert_and_deploy(url, model_name, hf_username, hf_token):
8
  # セーフテンソルファイルをダウンロード
9
  response = requests.get(url)
10
  if response.status_code != 200:
@@ -23,6 +23,7 @@ def convert_and_deploy(url, model_name, hf_username, hf_token):
23
  return f"モデルの読み込みに失敗しました。エラー: {e}"
24
 
25
  # モデルをfloat16形式で保存
 
26
  model.save_pretrained(f"{model_name}_float16", torch_dtype=torch.float16)
27
 
28
  # モデルをHugging Faceにデプロイ
@@ -30,7 +31,7 @@ def convert_and_deploy(url, model_name, hf_username, hf_token):
30
  try:
31
  api.upload_folder(
32
  folder_path=f"{model_name}_float16",
33
- repo_id=f"{hf_username}/{model_name}",
34
  token=hf_token,
35
  path_in_repo=f"{model_name}_float16",
36
  create_remote_repo=True
@@ -45,13 +46,12 @@ iface = gr.Interface(
45
  fn=convert_and_deploy,
46
  inputs=[
47
  gr.Text(label="セーフテンソルURL"),
48
- gr.Text(label="モデル名"),
49
- gr.Text(label="Hugging Face ユーザー名"),
50
  gr.Text(label="Hugging Face Write Token")
51
  ],
52
  outputs=gr.Text(label="結果"),
53
  title="モデルの変換とデプロイ",
54
- description="セーフテンソルURL、モデル名、Hugging Face ユーザー名、およびHugging Face Write Tokenを入力して、モデルをfloat16に変換し、Hugging Faceにデプロイします。"
55
  )
56
 
57
  # インターフェースの起動
 
2
  import requests
3
  import torch
4
  from transformers import AutoModel, AutoTokenizer
5
+ from huggingface_hub import HfApi
6
 
7
+ def convert_and_deploy(url, repo_id, hf_token):
8
  # セーフテンソルファイルをダウンロード
9
  response = requests.get(url)
10
  if response.status_code != 200:
 
23
  return f"モデルの読み込みに失敗しました。エラー: {e}"
24
 
25
  # モデルをfloat16形式で保存
26
+ model_name = repo_id.split('/')[-1] # モデル名を取得
27
  model.save_pretrained(f"{model_name}_float16", torch_dtype=torch.float16)
28
 
29
  # モデルをHugging Faceにデプロイ
 
31
  try:
32
  api.upload_folder(
33
  folder_path=f"{model_name}_float16",
34
+ repo_id=repo_id,
35
  token=hf_token,
36
  path_in_repo=f"{model_name}_float16",
37
  create_remote_repo=True
 
46
  fn=convert_and_deploy,
47
  inputs=[
48
  gr.Text(label="セーフテンソルURL"),
49
+ gr.Text(label="Hugging Face リポジトリID (ユーザー名/モデル名)"),
 
50
  gr.Text(label="Hugging Face Write Token")
51
  ],
52
  outputs=gr.Text(label="結果"),
53
  title="モデルの変換とデプロイ",
54
+ description="セーフテンソルURLHugging Face リポジトリID (ユーザー名/モデル名)、およびHugging Face Write Tokenを入力して、モデルをfloat16に変換し、Hugging Faceにデプロイします。"
55
  )
56
 
57
  # インターフェースの起動