metadata

library_name: transformers
widget:
  - text: >
      <|input|>

      ### Template:

      {
          "estaciones": [],
          "noches": [
              {
                  "descripcion": ""
              }
          ],
          "dias": [
              {
                  "descripcion": ""
              }
          ],
          "mejor_epoca": "",
          "frontera": "",
          "terreno": {
              "descripcion": ""
          }
      }

      ### Text:

      El oeste de Texas divide la frontera entre Mexico y Nuevo México. Es muy
      bella pero aspera, llena de cactus, en esta region se encuentran las Davis
      Mountains. Todo el terreno esta lleno de piedra caliza, torcidos arboles
      de mezquite y espinosos nopales. Para admirar la verdadera belleza
      desertica, visite el Parque Nacional de Big Bend, cerca de Brownsville. Es
      el lugar favorito para los excurcionistas, acampadores y entusiastas de
      las rocas. Pequeños pueblos y ranchos se encuentran a lo largo de las
      planicies y cañones de esta region. El area solo tiene dos estaciones,
      tibia y realmente caliente. La mejor epoca para visitarla es de Diciembre
      a Marzo cuando los dias son tibios, las noches son frescas y florecen las
      plantas del desierto con la humedad en el aire.

      <|output|>
pipeline_tag: text2text-generation
inference:
  parameters:
    max_length: 512
license: apache-2.0
language:
  - es

Structure Extraction Model

nebuia_extract_small is an extraction model inspired by NuExtract. nebuia_extract_small is a version of qween 1.5b, fine-tuned on a private high-quality synthetic dataset for entity extraction in Spanish legal texts with an 8k context length. Supports JSON template like nu extract describing the information you need to extract. NebuIA Extract specializes in identifying and extracting legal entities and relevant information from Spanish legal documents.

Model Details

Model Description

Developed by: NebuIA
Language(s) (NLP): es
License: mit
Finetuned from model [optional]: Qween2 1.5b

Uses

Same template as NuExtract

import json
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch


def predict_extract(model, tokenizer, text, schema):
    schema = json.dumps(json.loads(schema), indent=4)
    input_llm =  "<|input|>\n### Template:\n" +  schema + "\n"
    
    input_llm +=  "### Text:\n"+text +"\n<|output|>\n"
    input_ids = tokenizer(input_llm, return_tensors="pt", truncation=True, max_length=4000).to("cuda")

    output = tokenizer.decode(model.generate(**input_ids)[0], skip_special_tokens=True)
    return output.split("<|output|>")[1].split("<|end-output|>")[0]


model = AutoModelForCausalLM.from_pretrained("NebuIA/nebuia_extract_small", trust_remote_code=True, torch_dtype=torch.bfloat16)
tokenizer = AutoTokenizer.from_pretrained("NebuIA/nebuia_extract_small", trust_remote_code=True)

model.to("cuda")

model.eval()

text = """large legal text"""

schema = """{
    "calusulas": [],
    "notario": "",
    "jurisdiccion": {
      "clausula_jurisdiccion": "",
      "lugar": ""
    }
}"""

prediction = predict_extract(model, tokenizer, text, schema)
print(prediction)