Sakalti commited on
Commit
b4e040e
·
verified ·
1 Parent(s): 7d8e922

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +11 -6
app.py CHANGED
@@ -1,8 +1,8 @@
1
  import gradio as gr
2
  import requests
3
  import torch
4
- from transformers import AutoModel, AutoTokenizer
5
- from huggingface_hub import HfApi, hf_hub_download
6
 
7
  def convert_and_deploy(url, repo_id, hf_token):
8
  # セーフテンソルファイルをダウンロード
@@ -17,15 +17,20 @@ def convert_and_deploy(url, repo_id, hf_token):
17
 
18
  # モデルを読み込み
19
  try:
20
- # モデルの識別子をリポジトリIDから取得
21
- model_name = repo_id.split('/')[-1]
22
- model = AutoModel.from_pretrained(repo_id, torch_dtype=torch.float16, use_safetensors=True, token=hf_token)
23
- model.load_state_dict(torch.load(file_path))
 
 
 
 
24
  except Exception as e:
25
  return f"モデルの読み込みに失敗しました。エラー: {e}"
26
 
27
  # モデルをfloat16形式で保存
28
  try:
 
29
  model.save_pretrained(f"{model_name}_float16", torch_dtype=torch.float16)
30
  except Exception as e:
31
  return f"モデルの保存に失敗しました。エラー: {e}"
 
1
  import gradio as gr
2
  import requests
3
  import torch
4
+ from transformers import AutoModel
5
+ from huggingface_hub import HfApi
6
 
7
  def convert_and_deploy(url, repo_id, hf_token):
8
  # セーフテンソルファイルをダウンロード
 
17
 
18
  # モデルを読み込み
19
  try:
20
+ # セーフテンソルファイルからモデルの状態を読み込み
21
+ state_dict = torch.load(file_path)
22
+
23
+ # モデルを初期化
24
+ model = AutoModel.from_pretrained("path_to_model", torch_dtype=torch.float16, token=hf_token)
25
+
26
+ # モデルの状態を設定
27
+ model.load_state_dict(state_dict)
28
  except Exception as e:
29
  return f"モデルの読み込みに失敗しました。エラー: {e}"
30
 
31
  # モデルをfloat16形式で保存
32
  try:
33
+ model_name = repo_id.split('/')[-1] # モデル名を取得
34
  model.save_pretrained(f"{model_name}_float16", torch_dtype=torch.float16)
35
  except Exception as e:
36
  return f"モデルの保存に失敗しました。エラー: {e}"