File size: 1,007 Bytes
9442d31
 
96ee1d6
 
 
 
9442d31
1652e2a
 
 
 
 
6a63279
1652e2a
 
 
 
 
 
 
e6d66d4
 
f3c9b27
 
1652e2a
a3c25ac
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
---
license: apache-2.0
language:
- zh
tags:
- cybersecurity
---
# SecGPT 网络安全大模型
### **项目**
- [GitHub](https://github.com/Clouditera/SecGPT)
- [原版Pytorch模型](https://huggingface.co/clouditera/secgpt)
### **简介**
- 随着大语言模型的崛起,网安大模型也掀起了一股热潮,本人在逛 GitHub 时偶然发现了云起无垠开源的 SecGPT,但官方调用脚本中使用了 Cuda,且没有提供 GGUF 版本,故使用了 [llama.cpp](https://github.com/ggerganov/llama.cpp) 的 convert 脚本进行转换,并上传至huggingface

### **测试设备**
- MacBook Pro 16 寸
- M3 Max
- 48 GB

### **Usage**
- 分为 `secgpt1.5.gguf` , `secgpt.gguf``secgpt-mini.gguf` 三个版本
    - `secgpt1.5.gguf`基于qwen2,    需 28.5 G 显存
	- `secgpt.gguf`基于baichuan,   需 26.5 G 显存
	- `secgpt-mini.gguf`基于qwen2, 需 1.6 G 显存
- 使用方法
	- 将 GGUF 导入[LM Studio](https://lmstudio.ai/),并使用 `secgpt-all.json` 作为参数配置