File size: 1,007 Bytes
9442d31 96ee1d6 9442d31 1652e2a 6a63279 1652e2a e6d66d4 f3c9b27 1652e2a a3c25ac |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 |
---
license: apache-2.0
language:
- zh
tags:
- cybersecurity
---
# SecGPT 网络安全大模型
### **项目**
- [GitHub](https://github.com/Clouditera/SecGPT)
- [原版Pytorch模型](https://huggingface.co/clouditera/secgpt)
### **简介**
- 随着大语言模型的崛起,网安大模型也掀起了一股热潮,本人在逛 GitHub 时偶然发现了云起无垠开源的 SecGPT,但官方调用脚本中使用了 Cuda,且没有提供 GGUF 版本,故使用了 [llama.cpp](https://github.com/ggerganov/llama.cpp) 的 convert 脚本进行转换,并上传至huggingface
### **测试设备**
- MacBook Pro 16 寸
- M3 Max
- 48 GB
### **Usage**
- 分为 `secgpt1.5.gguf` , `secgpt.gguf` 与 `secgpt-mini.gguf` 三个版本
- `secgpt1.5.gguf`基于qwen2, 需 28.5 G 显存
- `secgpt.gguf`基于baichuan, 需 26.5 G 显存
- `secgpt-mini.gguf`基于qwen2, 需 1.6 G 显存
- 使用方法
- 将 GGUF 导入[LM Studio](https://lmstudio.ai/),并使用 `secgpt-all.json` 作为参数配置 |