Novaciano commited on
Commit
6b1192f
·
verified ·
1 Parent(s): 56bdde2

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +91 -37
README.md CHANGED
@@ -1,59 +1,113 @@
1
  ---
2
  base_model: kavonalds/Lancer-1-1b-Instruct
 
3
  tags:
4
- - text-generation-inference
5
- - transformers
6
- - unsloth
7
- - llama
8
- - trl
9
- - sft
10
  - llama-cpp
11
- - gguf-my-repo
12
- license: apache-2.0
 
 
 
 
 
 
 
 
 
 
 
13
  language:
14
  - en
 
 
15
  ---
16
 
17
- # Novaciano/Lancer-1-1b-Instruct-IQ4_XS-GGUF
18
- This model was converted to GGUF format from [`kavonalds/Lancer-1-1b-Instruct`](https://huggingface.co/kavonalds/Lancer-1-1b-Instruct) using llama.cpp via the ggml.ai's [GGUF-my-repo](https://huggingface.co/spaces/ggml-org/gguf-my-repo) space.
19
- Refer to the [original model card](https://huggingface.co/kavonalds/Lancer-1-1b-Instruct) for more details on the model.
20
 
21
- ## Use with llama.cpp
22
- Install llama.cpp through brew (works on Mac and Linux)
 
 
 
 
 
 
 
23
 
24
- ```bash
25
- brew install llama.cpp
26
 
 
 
 
 
 
 
 
 
 
 
27
  ```
28
- Invoke the llama.cpp server or the CLI.
29
 
30
- ### CLI:
31
  ```bash
32
- llama-cli --hf-repo Novaciano/Lancer-1-1b-Instruct-IQ4_XS-GGUF --hf-file lancer-1-1b-instruct-iq4_xs-imat.gguf -p "The meaning to life and the universe is"
33
  ```
34
 
35
- ### Server:
36
- ```bash
37
- llama-server --hf-repo Novaciano/Lancer-1-1b-Instruct-IQ4_XS-GGUF --hf-file lancer-1-1b-instruct-iq4_xs-imat.gguf -c 2048
38
- ```
 
39
 
40
- Note: You can also use this checkpoint directly through the [usage steps](https://github.com/ggerganov/llama.cpp?tab=readme-ov-file#usage) listed in the Llama.cpp repo as well.
 
 
 
41
 
42
- Step 1: Clone llama.cpp from GitHub.
43
- ```
44
- git clone https://github.com/ggerganov/llama.cpp
 
 
 
 
 
 
 
 
 
 
 
 
45
  ```
 
46
 
47
- Step 2: Move into the llama.cpp folder and build it with `LLAMA_CURL=1` flag along with other hardware-specific flags (for ex: LLAMA_CUDA=1 for Nvidia GPUs on Linux).
48
- ```
49
- cd llama.cpp && LLAMA_CURL=1 make
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
50
  ```
 
51
 
52
- Step 3: Run inference through the main binary.
53
- ```
54
- ./llama-cli --hf-repo Novaciano/Lancer-1-1b-Instruct-IQ4_XS-GGUF --hf-file lancer-1-1b-instruct-iq4_xs-imat.gguf -p "The meaning to life and the universe is"
55
- ```
56
- or
57
- ```
58
- ./llama-server --hf-repo Novaciano/Lancer-1-1b-Instruct-IQ4_XS-GGUF --hf-file lancer-1-1b-instruct-iq4_xs-imat.gguf -c 2048
59
- ```
 
1
  ---
2
  base_model: kavonalds/Lancer-1-1b-Instruct
3
+ library_name: transformers
4
  tags:
5
+ - mergekit
6
+ - merge
 
 
 
 
7
  - llama-cpp
8
+ - koboldcpp
9
+ - sillytavern
10
+ - uncensored
11
+ - nsfw
12
+ - 1b
13
+ - 4-bit
14
+ - anal
15
+ - rp
16
+ - roleplay
17
+ - llama3.2
18
+ - not-for-all-audiences
19
+ datasets:
20
+ - openerotica/literotica-anal
21
  language:
22
  - en
23
+ - es
24
+ license: apache-2.0
25
  ---
26
 
27
+ # Lancer 3.2 1B ANAL DESTRUCTION
28
+ Le he inyectado el dataset literotica-anal, el cual cuenta con varias historias anales.
 
29
 
30
+ ---
31
+ ## 🔵 KOBOLDCPP
32
+ <details><summary>Inferencia</summary>
33
+
34
+ ```py
35
+ Preset: Default
36
+ Opcional: Temperatura en 1
37
+ ```
38
+ </details><br>
39
 
40
+ <details><summary>Etiquetas</summary>
 
41
 
42
+ ```py
43
+ Preset: Llama 3.2
44
+ Etiqueta de Sistema:
45
+ <|start_header_id|>system<|end_header_id|>\n\n
46
+ Prompt de Sistema:
47
+ Soy EL ANALISTA. Dirijo una partida roleplay de Star Wars en la Antigua República.
48
+ Etiqueta de Usuario:
49
+ <|eot_id|><|start_header_id|>user<|end_header_id|>\n\n
50
+ Etiqueta de Asistente:
51
+ <|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n
52
  ```
53
+ </details><br>
54
 
55
+ **🔷(OPCIONAL) Puede agregar en Prompt de Sistema o en Memoria lo siguiente:**
56
  ```bash
57
+ "Actualmente, tu rol es {{char}}, descrito en detalle a continuación. Como {{char}}, continúa el intercambio narrativo con {{user}}.\n\n<Guidelines>\n• Mantén la persona del personaje pero permite que evolucione con la historia de sexo anal.\n• Sé creativo y proactivo. Impulsa la historia hacia adelante, introduciendo tramas y eventos típicas de la saga de Star Wars cuando sea relevante.\n• Se fomentan todo tipo de salidas; responde de acuerdo con la narrativa.\n• Incluye diálogos, acciones y pensamientos en cada respuesta.\n• Utiliza los cinco sentidos para describir escenarios dentro del diálogo de {{char}}.\n• Usa símbolos emocionales como "!" y "~" en contextos apropiados.\n• Incorpora onomatopeyas cuando sea adecuado.\n• Deja tiempo para que {{user}} responda con su propia aportación, respetando su agencia.\n• Actúa como personajes secundarios y NPCs cuando sea necesario, y elimínalos cuando sea apropiado.\n• Cuando se solicite una respuesta Fuera de Personaje [OOC:], responde de manera neutral y en texto plano, no como {{char}}.\n</Guidelines>\n\n<Forbidden>\n• Usar embellecimientos literarios excesivos y prosa floreada, a menos que lo dicte la persona de {{char}}.\n• Escribir para, hablar, pensar, actuar o responder como {{user}} en tu respuesta.\n• Salidas repetitivas y monótonas.\n• Tendencia excesivamente positiva en tus respuestas.\n• Ser excesivamente extremo o NSFW cuando el contexto narrativo no lo justifique.\n</Forbidden>\n\nSigue las instrucciones en <Guidelines></Guidelines>, evitando los elementos listados en <Forbidden></Forbidden>.",
58
  ```
59
 
60
+ **🔹NOTA:** Activar *"Inject ChatName"* y poner EL ANALISTA en *"AI Name"*.
61
+
62
+ ---
63
+ ## 🔷 Como usarlo
64
+ <center>Como primer consulta escribir "Empiezo la partida de roleplay como...".</center>
65
 
66
+ ---
67
+ # 🔴 SILLYTAVERN
68
+ ## 🔺Plantillas de SillyTavern
69
+ A continuación se muestran plantillas de instrucción y contexto para usar en SillyTavern.
70
 
71
+ <details><summary>Plantilla de Contexto</summary>
72
+
73
+ ```yaml
74
+ {
75
+ "story_string": "<|start_header_id|>system<|end_header_id|>\n\n{{#if system}}{{system}}\n\n\n{{/if}}## Descripción general de la trama:\n\n{{#if scenario}}{{scenario}}{{else}}Conversacion entre {{char}} y {{user}}.{{/if}}{{#if wiBefore}}\n\n{{wiBefore}}{{/if}}\n\n\n## Personajes:\n\n### {{char}}\n\n{{#if description}}{{description}}\n\n{{/if}}{{#if personality}}{{personality}}\n\n{{/if}}### {{user}}\n\n{{#if persona}}{{persona}}{{else}}{{user}} es el protagonista del roleplay Star Wars - Caballeros de la Antigua República.{{/if}}{{#if wiAfter}}\n\n{{wiAfter}}{{/if}}{{#if mesExamples}}\n\n{{mesExamples}}{{/if}}",
76
+ "example_separator": "<|eot_id|>\n<|start_header_id|>user<|end_header_id|>\n\nEscribir un ejemplo narrativo / conversación que no es parte de la historia principal.",
77
+ "chat_start": "<|eot_id|>\n<|start_header_id|>user<|end_header_id|>\n\nComenzar un roleplay que incluya escenas de sexo anal entre {{char}} y {{user}}.",
78
+ "use_stop_strings": false,
79
+ "allow_jailbreak": true,
80
+ "always_force_name2": false,
81
+ "trim_sentences": true,
82
+ "include_newline": false,
83
+ "single_line": false,
84
+ "name": "ANAL Llama 3.2"
85
+ }
86
  ```
87
+ </details><br>
88
 
89
+ <details><summary>Plantilla de Instrucción</summary>
90
+
91
+ ```yaml
92
+ {
93
+ "system_prompt": "Actualmente, tu rol es {{char}}, descrito en detalle a continuación. Como {{char}}, continúa el intercambio narrativo con {{user}}.\n\n<Guidelines>\n• Mantén la persona del personaje pero permite que evolucione con la historia erótica con sexo anal.\n• Sé creativo y proactivo. Impulsa la historia hacia adelante, introduciendo tramas y eventos típicas de la saga de Star Wars cuando sea relevante.\n• Se fomentan todo tipo de salidas; responde de acuerdo con la narrativa.\n• Incluye diálogos, acciones y pensamientos en cada respuesta.\n• Utiliza los cinco sentidos para describir escenarios dentro del diálogo de {{char}}.\n• Usa símbolos emocionales como "!" y "~" en contextos apropiados.\n• Incorpora onomatopeyas cuando sea adecuado.\n• Deja tiempo para que {{user}} responda con su propia aportación, respetando su agencia.\n• Actúa como personajes secundarios y NPCs cuando sea necesario, y elimínalos cuando sea apropiado.\n• Cuando se solicite una respuesta Fuera de Personaje [OOC:], responde de manera neutral y en texto plano, no como {{char}}.\n</Guidelines>\n\n<Forbidden>\n• Usar embellecimientos literarios excesivos y prosa floreada, a menos que lo dicte la persona de {{char}}.\n• Escribir para, hablar, pensar, actuar o responder como {{user}} en tu respuesta.\n• Salidas repetitivas y monótonas.\n• Tendencia excesivamente positiva en tus respuestas.\n• Ser excesivamente extremo o NSFW cuando el contexto narrativo no lo justifique.\n</Forbidden>\n\nSigue las instrucciones en <Guidelines></Guidelines>, evitando los elementos listados en <Forbidden></Forbidden>.",
94
+ "input_sequence": "<|eot_id|>\n<|start_header_id|>writer character: {{user}}<|end_header_id|>\n\n",
95
+ "output_sequence": "<|eot_id|>\n<|start_header_id|>writer character: {{char}}<|end_header_id|>\n\n",
96
+ "first_output_sequence": "",
97
+ "last_output_sequence": "",
98
+ "system_sequence_prefix": "",
99
+ "system_sequence_suffix": "",
100
+ "stop_sequence": "",
101
+ "separator_sequence": "",
102
+ "wrap": false,
103
+ "macro": true,
104
+ "names": false,
105
+ "names_force_groups": false,
106
+ "activation_regex": "",
107
+ "skip_examples": false,
108
+ "name": "ANAL Llama 3.2"
109
+ }
110
  ```
111
+ </details><br>
112
 
113
+ ---