Update app.py

app.py

@@ -3,6 +3,7 @@ import requests
 import torch
 from transformers import AutoModel
 from huggingface_hub import HfApi
+import safetensors
 
 def convert_and_deploy(url, repo_id, hf_token):
     # セーフテンソルファイルをダウンロード
@@ -15,14 +16,28 @@ def convert_and_deploy(url, repo_id, hf_token):
     with open(file_path, "wb") as f:
         f.write(response.content)
     
+    # ファイルの存在を確認
+    if not os.path.exists(file_path):
+        return "ファイルが正しく保存されませんでした。"
+    
+    # ファイルの内容を確認
+    with open(file_path, "rb") as f:
+        content = f.read(100)  # 先頭100バイトを読み込む
+        if not content:
+            return "ファイルが空です。"
+    
     # モデルを読み込み
     try:
         # セーフテンソルファイルからモデルの状態を読み込み
-        state_dict = torch.load(file_path)
+        with safetensors.safe_open(file_path, framework="pt") as f:
+            state_dict = {k: f.get_tensor(k) for k in f.keys()}
         
         # モデルを初期化
         model = AutoModel.from_pretrained("path_to_model", torch_dtype=torch.float16, token=hf_token)
         
+        # BF16からFP16に変換
+        state_dict = {k: v.to(torch.float16) for k, v in state_dict.items()}
+        
         # モデルの状態を設定
         model.load_state_dict(state_dict)
     except Exception as e: