File size: 2,337 Bytes
08fb64f 642b10d 08fb64f 642b10d 08fb64f 0f08932 b5b2295 b423b6a 0f08932 da04059 76634c9 2ce3d85 76634c9 2ce3d85 4a5ef65 76634c9 cdee751 76634c9 cdee751 51eba3b cdee751 7261ddc cdee751 642b10d da04059 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 |
---
language:
- sv
license: apache-2.0
tags:
- merge
base_model:
- timpal0l/Mistral-7B-v0.1-flashback-v2-instruct
- Equall/Saul-Instruct-v1
pipeline_tag: text-generation
---
# Tyr
<img src="tyr_jpeg.jpeg" width="100%" height="auto">
*Tyr var en krigsgud och en son av Odin, men han var främst förknippad med lag, rättvisa och svär av edar.*
# How to use:
```python
import torch
from transformers import pipeline
device = "cuda" if torch.cuda.is_available() else "cpu"
pipe = pipeline("text-generation", "AI-Sweden-Models/tyr", device=device)
query = "Vad är grundlagen?"
response = pipe(f"USER:{query}ASSISTANT:", max_length=512, temperature=1.0)
print(response[0]["generated_text"].split("ASSISTANT: ")[1])
```
```python
>>> "Grundlagen är en samling av grundläggande lagar som reglerar den politiska strukturen och funktionen av en nation.
Den innehåller de grundläggande principer och regler som styr en nations politiska system, inklusive rättigheter och skyldigheter av medborgare,
struktur och funktion av regeringen, och relationer mellan olika politiska organ.
Grundlagen kan också inkludera de grundläggande värderingarna och principer som en nation står för."
```
```python
query = "Är det olagligt att köra för fort?"
response = pipe(f"USER:{query}ASSISTANT:", max_length=512, temperature=1.0)
print(response[0]["generated_text"].split("ASSISTANT: ")[1])
```
```python
>>> "Ja, det är olagligt att köra för fort.
Varje land har sina egna trafikregler och hastighetsbegränsningar,
men det är allmänt olagligt att överstiga de tillåtna hastighetsgränserna.
Om du bryter hastighetsbegränsningarna kan du bli dömd för trafikbrott och riskera böter,
förlust av körkortet och i vissa fall även fängelse."
```
This model is a merge of [timpal0l/Mistral-7B-v0.1-flashback-v2-instruct](https://huggingface.co/timpal0l/Mistral-7B-v0.1-flashback-v2-instruct) and [Equall/Saul-Instruct-v1](https://huggingface.co/Equall/Saul-Instruct-v1).
## config.yaml
```yaml
models:
- model: timpal0l/Mistral-7B-v0.1-flashback-v2-instruct
# No parameters necessary for base model
- model: Equall/Saul-Instruct-v1
parameters:
density: 0.53
weight: 0.6
merge_method: dare_ties
base_model: timpal0l/Mistral-7B-v0.1-flashback-v2-instruct
parameters:
int8_mask: true
dtype: bfloat16
``` |