Update app.py

app.py

@@ -1,7 +1,7 @@
 import gradio as gr
 import requests
 import torch
-from transformers import AutoModel
+from transformers import AutoModel, AutoConfig
 from huggingface_hub import HfApi
 import safetensors
 import os
@@ -29,13 +29,16 @@ def convert_and_deploy(url, repo_id, hf_token):
     
     # モデルを読み込み
     try:
+        # モデルの構成を取得
+        config = AutoConfig.from_pretrained("Sakalti/Qwen-float16-0.5b", token=hf_token)
+        
+        # モデルを構成に基づいて初期化
+        model = AutoModel.from_config(config, torch_dtype=torch.float16)
+        
         # セーフテンソルファイルからモデルの状態を読み込み
         with safetensors.safe_open(file_path, framework="pt") as f:
             state_dict = {k: f.get_tensor(k) for k in f.keys()}
         
-        # モデルを初期化
-        model = AutoModel.from_config(AutoModel.from_pretrained("Sakalti/Qwen-float16-0.5b", torch_dtype=torch.float16, token=hf_token).config)
-        
         # BF16からFP16に変換
         state_dict = {k: v.to(torch.float16) for k, v in state_dict.items()}