|
--- |
|
language: |
|
- sv |
|
license: apache-2.0 |
|
tags: |
|
- merge |
|
base_model: |
|
- timpal0l/Mistral-7B-v0.1-flashback-v2-instruct |
|
- Equall/Saul-Instruct-v1 |
|
pipeline_tag: text-generation |
|
--- |
|
<img src="https://upload.wikimedia.org/wikipedia/commons/7/7a/IB_299_4to_Tyr.jpg" width="25%" height="auto"> |
|
|
|
*Tyr var en krigsgud och en son av Odin, men han var främst förknippad med lag, rättvisa och svär av edar.* |
|
|
|
# How to use: |
|
```python |
|
from transformers import pipeline |
|
pipe = pipeline("text-generation", "timpal0l/tyr", device="cuda:0") |
|
|
|
query = "Vad är grundlagen?" |
|
|
|
response = pipe(f"USER:{query}ASSISTANT:", max_length=512, temperature=1.0) |
|
print(response[0]["generated_text"].split("ASSISTANT: ")[1]) |
|
``` |
|
```python |
|
>>> "Grundlagen är en samling av grundläggande lagar som reglerar den politiska strukturen och funktionen av en nation. |
|
Den innehåller de grundläggande principer och regler som styr en nations politiska system, inklusive rättigheter och skyldigheter av medborgare, |
|
struktur och funktion av regeringen, och relationer mellan olika politiska organ. |
|
Grundlagen kan också inkludera de grundläggande värderingarna och principer som en nation står för." |
|
``` |
|
|
|
```python |
|
query = "Är det olagligt att köra för fort?" |
|
|
|
response = pipe(f"USER:{query}ASSISTANT:", max_length=512, temperature=1.0) |
|
print(response[0]["generated_text"].split("ASSISTANT: ")[1]) |
|
``` |
|
```python |
|
>>> "Ja, det är olagligt att köra för fort. |
|
Varje land har sina egna trafikregler och hastighetsbegränsningar, |
|
men det är allmänt olagligt att överstiga de tillåtna hastighetsgränserna. |
|
Om du bryter hastighetsbegränsningarna kan du bli dömd för trafikbrott och riskera böter, |
|
förlust av körkortet och i vissa fall även fängelse." |
|
``` |
|
|
|
This model is a merge of [timpal0l/Mistral-7B-v0.1-flashback-v2-instruct](https://huggingface.co/timpal0l/Mistral-7B-v0.1-flashback-v2-instruct) and [Equall/Saul-Instruct-v1](https://huggingface.co/Equall/Saul-Instruct-v1). |
|
## config.yaml |
|
```yaml |
|
models: |
|
- model: timpal0l/Mistral-7B-v0.1-flashback-v2-instruct |
|
# No parameters necessary for base model |
|
- model: Equall/Saul-Instruct-v1 |
|
parameters: |
|
density: 0.53 |
|
weight: 0.6 |
|
merge_method: dare_ties |
|
base_model: timpal0l/Mistral-7B-v0.1-flashback-v2-instruct |
|
parameters: |
|
int8_mask: true |
|
dtype: bfloat16 |
|
``` |
