Steven10429 commited on
Commit
976e95f
·
verified ·
1 Parent(s): c7e2aaf

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +4 -6
app.py CHANGED
@@ -41,10 +41,10 @@ def get_model_size_in_gb(model_name):
41
  return size_in_gb
42
  else:
43
  # 如果无法计算,返回一个保守的估计
44
- return 16 # 默认假设是7B模型
45
  except Exception as e:
46
  log(f"无法估算模型大小: {str(e)}")
47
- return 16 # 默认返回16GB
48
 
49
  def check_system_resources(model_name):
50
  """检查系统资源并决定使用什么设备"""
@@ -86,11 +86,9 @@ def check_system_resources(model_name):
86
  raise MemoryError(f"❌ 系统内存不足 (需要 {required_memory_gb:.1f}GB, 可用 {available_memory_gb:.1f}GB)")
87
 
88
  def setup_environment(model_name, hf_token):
89
- """设置环境并返回设备信息"""
90
  if not hf_token:
91
- hf_token = os.getenv('HF_TOKEN', None) # try to get from env
92
- if not hf_token:
93
- raise ValueError("请在环境变量中设置HF_TOKEN")
94
  login(hf_token)
95
 
96
  # 检查系统资源并决定使用什么设备
 
41
  return size_in_gb
42
  else:
43
  # 如果无法计算,返回一个保守的估计
44
+ return 1 # bypass memory check
45
  except Exception as e:
46
  log(f"无法估算模型大小: {str(e)}")
47
+ return 1 # bypass memory check
48
 
49
  def check_system_resources(model_name):
50
  """检查系统资源并决定使用什么设备"""
 
86
  raise MemoryError(f"❌ 系统内存不足 (需要 {required_memory_gb:.1f}GB, 可用 {available_memory_gb:.1f}GB)")
87
 
88
  def setup_environment(model_name, hf_token):
89
+ """设置环境并返回设备信息""" # try to get from env
90
  if not hf_token:
91
+ raise ValueError("请在设置HF_TOKEN")
 
 
92
  login(hf_token)
93
 
94
  # 检查系统资源并决定使用什么设备