Sakalti commited on
Commit
7d8e922
·
verified ·
1 Parent(s): f060548

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +8 -4
app.py CHANGED
@@ -2,7 +2,7 @@ import gradio as gr
2
  import requests
3
  import torch
4
  from transformers import AutoModel, AutoTokenizer
5
- from huggingface_hub import HfApi
6
 
7
  def convert_and_deploy(url, repo_id, hf_token):
8
  # セーフテンソルファイルをダウンロード
@@ -17,14 +17,18 @@ def convert_and_deploy(url, repo_id, hf_token):
17
 
18
  # モデルを読み込み
19
  try:
20
- model = AutoModel.from_pretrained("path_to_model", torch_dtype=torch.float16, use_safetensors=True, token=hf_token)
 
 
21
  model.load_state_dict(torch.load(file_path))
22
  except Exception as e:
23
  return f"モデルの読み込みに失敗しました。エラー: {e}"
24
 
25
  # モデルをfloat16形式で保存
26
- model_name = repo_id.split('/')[-1] # モデル名を取得
27
- model.save_pretrained(f"{model_name}_float16", torch_dtype=torch.float16)
 
 
28
 
29
  # モデルをHugging Faceにデプロイ
30
  api = HfApi()
 
2
  import requests
3
  import torch
4
  from transformers import AutoModel, AutoTokenizer
5
+ from huggingface_hub import HfApi, hf_hub_download
6
 
7
  def convert_and_deploy(url, repo_id, hf_token):
8
  # セーフテンソルファイルをダウンロード
 
17
 
18
  # モデルを読み込み
19
  try:
20
+ # モデルの識別子をリポジトリIDから取得
21
+ model_name = repo_id.split('/')[-1]
22
+ model = AutoModel.from_pretrained(repo_id, torch_dtype=torch.float16, use_safetensors=True, token=hf_token)
23
  model.load_state_dict(torch.load(file_path))
24
  except Exception as e:
25
  return f"モデルの読み込みに失敗しました。エラー: {e}"
26
 
27
  # モデルをfloat16形式で保存
28
+ try:
29
+ model.save_pretrained(f"{model_name}_float16", torch_dtype=torch.float16)
30
+ except Exception as e:
31
+ return f"モデルの保存に失敗しました。エラー: {e}"
32
 
33
  # モデルをHugging Faceにデプロイ
34
  api = HfApi()