metadata

tags:
  - sentence-transformers
  - sentence-similarity
  - feature-extraction
  - generated_from_trainer
  - dataset_size:2700
  - loss:CachedMultipleNegativesRankingLoss
widget:
  - source_sentence: Wat is de betekenis van het getal 10 in dit document?
    sentences:
      - >-
        Ooklishes wijl we intet mogelijk sæguen diestate binnen 24 u n a afiyan
        e tegeneralel is pollewords: very dear socal feigermoneters of data ai
        nnen 48u na amarne.
      - '10.'
      - >2-
         5.1 .2e` <` 5.1 .2e`@minbzk.nl>), de verzenddatum (woensdag 25 november 2020 08:43), de geadresseerde (` 5.1 .2e` <` 5.1 .2e`@minvws.nl>) en de CC ontvangers (` 5.1 .2e` <` 5.1 .2e`@minbzk.nl>; ` 5.1 .2e` <` 5.1 .2e`@minvws.nl>; ` 5.1 .2e` <` 5.1 .2e`@minvws.nl>; ` 5.1 .2e` <` 5.1 .2e`@zorgverzekeringskantoor.nl>). De e mail lijkt afkomstig te zijn van een intern communicatiekanaal, mogelijk binnen de Nederlandse overheid, gezien de domeinnamen minbzk.nl en minvws.nl.

        Onderwerp: RE: Aanvullen Programma SXM


        Goedemorgen,


        Zojuist een nieuwe afspraak gepland voor 11.15 

         Van: 5.1 .2e ) < 5.1 .2e @minvws.nl> 
         
         Verzonden: dinsdag 24 november 2020 17:33 
         Aan: 5.1 .2e < 5.1 .2e @minbzk.nl> 
         CC: 5.1 .2e < 5.1 .2e @minbzk.nl>; 5.1 .2e < 5.1 .2e @minvws.nl>; 5.1 .2e 5.1 .2e) 
         5.1 .2e < 5.1 .2e @minvws.nl>; 5.1 .2e < 5.1 .2e @zorgverzekeringskantoor.nl> 

        Onderwerp: RE: Aanvullen Programma SXM

         5.1 .2e Hoi

        We zitten morgen op Aruba met een stevig programma. Zou het ook om 11.15
        uur kunnen? Ik ben dan op de vertegenwoordiging en daar is een stabiele
        wifi.


        Groet.

         5.1 .2e

        # Verzonden met BlackBerry Work (www.blackberry.com)

         Van: 5.1 .2e < 5.1 .2e @minbzk.nl> 
         
         Datum: dinsdag 24 nov. 2020 4:02 PM 
         Aan: 5.1 .2e < 5.1 .2e @minvws.nl> 
         Kopie: 5.1 .2e < 5.1 .2e @minbzk.nl>, 5.1 .2e < 5.1 .2e @minvws.nl>, 5.1 .2e < 5.1 .2e @minvws.nl>, 5.1 .2e < 5.1 .2e @zorgverzekeringskantoor.nl> 

         Onderwerp: RE: Aanvullen Programma SXM

        # Hoi 5.1 .2e


        Welkom in de Caraïben en goed plan. Wat dacht je van morgenmiddag om
        14.00 uur. Ik stuur zo een uitnodiging en als het niet uitkomt
        verschuiven we deze gewoon.


        Ik heb nog wel aantal vragen die we morgen even langs moeten lopen

         Totaal aantal personen is 5?
         
         ik begreep van 5.1 .2e dat 512 (?) ook vervoer aan het regelen. Normaal gesproken regelen wij het vervoer hier. Dus graag even afstemmen. Gezien jullie niet overal met z ´n allen naar toe gaan, kan een huurauto daamaast handig zijn, laat maar weten
         zie mijn vraag in het ro
  - source_sentence: Wie zijn de auteurs van dit documentfragment?
    sentences:
      - >-
        Op 10 november zijn er 204 clusters (in verpleeghuizen en wooncentra
        voor ouderen) geregistreerd met in totaal 2.208 meldingen.
      - Cameron, M. J., Bermejo Martin, J.
      - >-
        st trace contact isoleer falen dat ons net de tweede infectiegoff
        opzadelde. Openheid ontbreekt opniew nu iederen reikhalzend uitziet naar
        twee beschernende maar de vergrote meerderheid van het volk geen idee
        heeft wanneer wij weer ons heellijkvrije leven kunnen oppakken.


        Journalisten en politici begrijpen nog steeds niet wat exponentiele
        groei betekent en ook niet welke aanpak 24 miljoen keer prikken vergt.
        Het eerste punt ga ik niet nog een uitlebben honderden reeds gedaan, met
        twee korrels rijst op het eerste schaakbood vakje als mi. meest
        sprekende voorbeeld. Ik ga nu heel sinnet doen om per 1 juli 2021 wel
        klaar te zijn net vaccineren en niet pas in juli 2022.


        Wij zijn met 17 200 000 Nederlandse ingezetenen: en dellen zeegen dat
        wanneer twee derde van ons gevaccineed is, het virus snel uitde
        innuntet. Afgerand zijn dat 12 miljoen ingeënte mense; indien iederen
        twee keer geprikt moet worden met tussen moet er 24 miljoen keer geprikt
        worden. Die prikken worden gezet door nin of neer geschoold personeel,
        artsen, verplegers, paramedics, medische studenten e.d .; ik noem ze
        hier prikkers.


        Ik zag op TV een oudere huisarts die zei dat hij er, extrapolerend
        vanuit griepprik ervaring, 60 per uur goed kan zetten. In mijn aannames
        ga ik dat tempo halveren. Hier volgen de model aannames en de eenvoudige
        sommen.


        Model aanname 1: een prikken per uur zetten bij goede team voorbereiding
        en nazorg.


        Een week heeft 168 uur, dus afgerond 10 000 minuten. Geniddeld vergt éen
        prik 2 minuten, dus vergen 24 miljoen prikken 48 miljoen minuten; deel
        dat door de 10 000 niuuten per week en een mikker die continu werkt
        heeft (bij aannane 1) 480 weken nodig, Meteen evident: prikken moet in
        heel veel paries. Nemen we, GGD (Gemeentelijke Gezondheidsdienst)
        achtig, 24 lokaties en rusten we elke lokatie uit neet 10 priksporen,
        dan moet elk spoor 20 weken continuten éen keer prikken zetten per week.
        Beginnen we midden februari fer moet dan tussen nu en dan heel veel
        logistisstorisch werk wor
  - source_sentence: Welke vier categorieën worden weergegeven in de gestapelde balken?
    sentences:
      - >-
        De mensen die onder deze uitzondering vallen kunnen veelvuldig te maken
        krijgen met vragen van bijvoorbeeld winkeliers of handhavingsbeambten.
      - >-
        There are four categories represented in the stacked bars: NL excl, AMS,
        HGL, and RR.
      - >-
        Veel nieuwe mensen bij betrokken. Oorspronkelijk ging het om de
        teststraat op Schiphol, maar nu verandert de insteek. Bezig met
        opstellen van interviewvragen – 5120 heeft een mooie set vragen gemaakt
        op basis van literatuur. Vraag blijft of we Schiphol data mee kunnen
        nemen in de memo - dat is afhankelijk van tijdlijn VWS (Volksgezondheid,
        Welzijn en Sport). 

        5 1.2e ·


        We gaan de vraagstelling voor de verdiepende interviews wat aanpassen:
        hoe is de pandemie op iets hoger abstractieniveau geweest?
  - source_sentence: >-
      Welke redenen van dwingende spoed hebben ervoor gezorgd dat de Minister
      een onderhandelingsprocedure zonder voorafgaande bekendmaking heeft
      gekozen voor deze overeenkomst?
    sentences:
      - >-
        De Minister heeft deze Overeenkomst opgedragen na een
        onderhandelingsprocedure zonder voorafgaande bekendmaking nu de
        termijnen voor de openbare of niet openbare procedures of de
        mededingingsprocedure met onderhandeling niet in acht kunnen worden
        genomen om redenen van dwingende spoed die niet voorzien konden worden
        door de Minister (zie ook EC2020/C 1081/01).
      - >-
        Er hole it zeen extra auto in ite worden gezet (Poluur zaam) en In dat
        geval basir segt die alstand minder die 10 jan.
      - >-
        544917 
         
         

         To: 5.1 .2e 5.1 .2e @labmicta.nl 
         
         Cc: 5.1 .2e @gmail.com; 5.1 .2e @gmail.com]; 5.1 .2e 5.1 .2e @labmicta.nl]; 5.1 .2e 5.1 .2e @labmicta.nl 
         From: 5.1 .2e 
         Sent: Sat 8/22/2020 1:07:36 PM 
         Subject: RE: resultaten speekselpanel 
         Received: Sat 8/22/2020 1:07:37 PM 
         Verwachte resultaten speeksel panel SARS CoV 2 ronde 1 versie 2.pdf 

        Beste


        Dank je wel voor de resultaten.


        De vier monsters die door meeste labs worden gedetecteerd hebben jullie
        ook gevonden; en alle drie de methoden van opwerking als zwakke curve
        meegerekend wordt. Het ene monster met laagste concentratie virus die
        jullie negatief scoren is een educational monster wat door weinig labs
        positief wordt gevonden. Bijgevoegd de verwachte resultaten en hieronder
        plaatjes van de resultaten van beste methode(s) per lab.


        Image /page/0/Figure/5 description: De afbeelding toont een grafiek met
        de titel 'Speekselpanel SARS CoV 2'. De grafiek visualiseert Ct waarden
        (Cycle threshold) voor verschillende samples, aangeduid als 'Target 1
        Sen.SALIVA\_CoV20 XX' en 'Target 2 Sen.SALIVA\_CoV20 XX'. De Ct waarden
        variëren van ongeveer 20 tot 40, met enkele uitschieters rond de 50. De
        grafiek lijkt de resultaten van een SARS CoV 2 test te presenteren,
        waarbij de Ct waarde een indicatie geeft van de virusconcentratie in de
        speekselmonsters.


        Per laboratorium zijn alleen de twee meest gevoelige targets in deze
        grafiek weergegeven. Niet alle laboratoria gebruiken tests waar twee gen
        targets gebruikt worden. Ct 50 = artificiële Ct waarde voor een negatief
        resultaat. Voor datasets zonder negatieve resultaten is mediaan met IQR
        weergegeven.


        Image /page/1/Figure/9 description: De afbeelding toont een grafiek met
        kwalitatieve resultaten van een speekselpanel voor SARS CoV 2. De
        grafiek vergelijkt het percentage labs met een positief resultaat voor
        drie verschillende targets: Target 1 (n=21), Target 2 (n=10) en een
        positieve uitslag. De x as toont verschillende concentraties, variërend
        van Sen.SALIVA\_CoV20 01 
  - source_sentence: >-
      Wanneer kunnen we een gedetailleerd overzicht verwachten van de
      effectiviteit van de genomen maatregelen, inclusief de exacte resultaten
      en de verwachte voltooiingstijd?
    sentences:
      - >-
        974272

         5.1 .2e = s. 1.2e ( 5.1 .2e )[ 5.1 .2e @minvws.nl] To: 5.1 .2e 1.2 5.1 .2e ( 5.1 .2e ( 5.1 .2e) From: Sent: Tue 12/1/2020 9:20:20 AM Subject: RE: akkoord?: annotatie MCC Received: Tue 12/1/2020 9:20:21 AM

        Op kamer secretariaat ( ; kom zo even langs


        Van 5.1 .2e 5.1 .2e ( 5.1 .2e = 5.1 .2e @minvws.nl> Verzonden: dinsdag 1
        december 2020 09:53 Aan: 5.1 .2e 1.2e ( 5.1 .2e ( 5.1 .2e) = 5.1 .2e
        @minvws.nl> Onderwerp: FW: akkoord?: annotatie MCC

         5.1 .2e , ter info onderstaand.

        Waar zit jij vandaag ? Liep al 2 rondjes zonder succes \*


        Groeten 5.1 .2e


        Verzonden met BlackBerry Work (www.blackberry.com)


        Image /page/0/Picture/8 description: De afbeelding is een screenshot van
        een e mailheader. De 'Van' regel toont de afzender met het e mailadres `
        5.1 [email protected]`. De 'Datum' regel geeft aan dat de e mail is
        verzonden op maandag 30 november 2020 om 11:07 PM. De 'Aan' regel bevat
        meerdere ontvangers met het e mailadres ` 5.1 [email protected]`, en de
        'Kopie' regel bevat ook een ontvanger met het e mailadres ` 5.1
        [email protected]`. Het onderwerp van de e mail is 'RE: akkoord?: annotatie
        MCC'.

         Hi 5.1 .2e

        De opzet van risiconiveau zeer emstig in de herijkte routekaart is
        nieuw. Risiconiveau zeer ernstig betreft vanianten van een lockdown en
        we geven alleen mogelijke verdere beperkingen en geheltelijke sluitingen
        met de onderwerpen aan. Maar niet welke verdere beperkingen en dus ook
        geen uitzonderingen. Dit omdat het vastleggen van welke maatregelen je
        in een lockdown variant gaat treffen ondoenlijk is. De precieze
        maatregelen in een lockdown worden tzt geformuleerd in een aparte
        ministeriële regeling. Die gaat dan de besluitvomingsprocedure door.


        Groeten. 5.1 .2e


        Verzonden met BlackBerry Work (www.blackberry.com)


        Image /page/0/Picture/13 description: Dit is een screenshot van een e
        mailheader. De e mail is verzonden door ` 5.1 .2e` op maandag 30
        november 2020 om 10:52 PM. De e mail is gericht aan meerdere ontvangers,
        waaronder ` 5.1 .2e` en ` 5.1 [email protected]`. H
      - >-
        En ik vraag het nog een keer – al moet ik het honderd keer vragen:
        wanneer krijgen wij een overzicht ten aanzien van al die maatregelen van
        hoeveel mensen er precies zijn en wat voor exacte resultaten zijn
        bereikt en wanneer de rest wordt bereikt?
      - >-
        The y axis represents "IC (Inspectie van het Onderwijs) bezetting" (IC
        (Inspectie van het Onderwijs) occupancy), ranging from 0 to 2500.
pipeline_tag: sentence-similarity
library_name: sentence-transformers
metrics:
  - cosine_accuracy@1
  - cosine_accuracy@5
  - cosine_precision@1
  - cosine_precision@5
  - cosine_recall@1
  - cosine_recall@5
  - cosine_ndcg@10
  - cosine_mrr@10
  - cosine_map@10
model-index:
  - name: SentenceTransformer
    results:
      - task:
          type: information-retrieval
          name: Information Retrieval
        dataset:
          name: Unknown
          type: unknown
        metrics:
          - type: cosine_accuracy@1
            value: 0.8133333333333334
            name: Cosine Accuracy@1
          - type: cosine_accuracy@5
            value: 0.92
            name: Cosine Accuracy@5
          - type: cosine_precision@1
            value: 0.8133333333333334
            name: Cosine Precision@1
          - type: cosine_precision@5
            value: 0.18399999999999997
            name: Cosine Precision@5
          - type: cosine_recall@1
            value: 0.8133333333333334
            name: Cosine Recall@1
          - type: cosine_recall@5
            value: 0.92
            name: Cosine Recall@5
          - type: cosine_ndcg@10
            value: 0.8808263405745779
            name: Cosine Ndcg@10
          - type: cosine_mrr@10
            value: 0.8623928571428572
            name: Cosine Mrr@10
          - type: cosine_map@10
            value: 0.8623928571428572
            name: Cosine Map@10

SentenceTransformer

This is a sentence-transformers model trained. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

Model Type: Sentence Transformer
Maximum Sequence Length: 128 tokens
Output Dimensionality: 768 dimensions
Similarity Function: Cosine Similarity

Model Sources

Documentation: Sentence Transformers Documentation
Repository: Sentence Transformers on GitHub
Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 128, 'do_lower_case': False}) with Transformer model: RobertaModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
    'Wanneer kunnen we een gedetailleerd overzicht verwachten van de effectiviteit van de genomen maatregelen, inclusief de exacte resultaten en de verwachte voltooiingstijd?',
    'En ik vraag het nog een keer – al moet ik het honderd keer vragen: wanneer krijgen wij een overzicht ten aanzien van al die maatregelen van hoeveel mensen er precies zijn en wat voor exacte resultaten zijn bereikt en wanneer de rest wordt bereikt?',
    "974272\n\n 5.1 .2e = s. 1.2e ( 5.1 .2e )[ 5.1 .2e @minvws.nl] To: 5.1 .2e 1.2 5.1 .2e ( 5.1 .2e ( 5.1 .2e) From: Sent: Tue 12/1/2020 9:20:20 AM Subject: RE: akkoord?: annotatie MCC Received: Tue 12/1/2020 9:20:21 AM\n\nOp kamer secretariaat ( ; kom zo even langs\n\nVan 5.1 .2e 5.1 .2e ( 5.1 .2e = 5.1 .2e @minvws.nl> Verzonden: dinsdag 1 december 2020 09:53 Aan: 5.1 .2e 1.2e ( 5.1 .2e ( 5.1 .2e) = 5.1 .2e @minvws.nl> Onderwerp: FW: akkoord?: annotatie MCC\n\n 5.1 .2e , ter info onderstaand.\n\nWaar zit jij vandaag ? Liep al 2 rondjes zonder succes \\*\n\nGroeten 5.1 .2e\n\nVerzonden met BlackBerry Work (www.blackberry.com)\n\nImage /page/0/Picture/8 description: De afbeelding is een screenshot van een e mailheader. De 'Van' regel toont de afzender met het e mailadres ` 5.1 [email protected]`. De 'Datum' regel geeft aan dat de e mail is verzonden op maandag 30 november 2020 om 11:07 PM. De 'Aan' regel bevat meerdere ontvangers met het e mailadres ` 5.1 [email protected]`, en de 'Kopie' regel bevat ook een ontvanger met het e mailadres ` 5.1 [email protected]`. Het onderwerp van de e mail is 'RE: akkoord?: annotatie MCC'.\n\n Hi 5.1 .2e\n\nDe opzet van risiconiveau zeer emstig in de herijkte routekaart is nieuw. Risiconiveau zeer ernstig betreft vanianten van een lockdown en we geven alleen mogelijke verdere beperkingen en geheltelijke sluitingen met de onderwerpen aan. Maar niet welke verdere beperkingen en dus ook geen uitzonderingen. Dit omdat het vastleggen van welke maatregelen je in een lockdown variant gaat treffen ondoenlijk is. De precieze maatregelen in een lockdown worden tzt geformuleerd in een aparte ministeriële regeling. Die gaat dan de besluitvomingsprocedure door.\n\nGroeten. 5.1 .2e\n\nVerzonden met BlackBerry Work (www.blackberry.com)\n\nImage /page/0/Picture/13 description: Dit is een screenshot van een e mailheader. De e mail is verzonden door ` 5.1 .2e` op maandag 30 november 2020 om 10:52 PM. De e mail is gericht aan meerdere ontvangers, waaronder ` 5.1 .2e` en ` 5.1 [email protected]`. H",
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Information Retrieval

Evaluated with InformationRetrievalEvaluator

Metric	Value
cosine_accuracy@1	0.8133
cosine_accuracy@5	0.92
cosine_precision@1	0.8133
cosine_precision@5	0.184
cosine_recall@1	0.8133
cosine_recall@5	0.92
cosine_ndcg@10	0.8808
cosine_mrr@10	0.8624
cosine_map@10	0.8624

Training Details

Training Dataset

Unnamed Dataset

Size: 2,700 training samples
Columns: anchor and positive
Approximate statistics based on the first 1000 samples:
anchor positive
type string string
details
min: 7 tokens
mean: 30.76 tokens
max: 128 tokens

min: 3 tokens
mean: 72.93 tokens
max: 128 tokens

	anchor	positive
type	string	string
details	min: 7 tokens mean: 30.76 tokens max: 128 tokens	min: 3 tokens mean: 72.93 tokens max: 128 tokens

Samples:

anchor	positive
`Hoe werd een geschil tussen twee reviewers over classificatie opgelost?`	`Disagreement between two reviewers on classification was resolved by a third reviewer.`
`Wat is de rol van de persoon met het e-mailadres 5.1 [email protected] in de validatie van saliva samples voor het detecteren van antistoffen bij kinderen, en hoe verloopt de samenwerking met Sciensano labo in deze studie?`	udie ter validatie van saliva sample in kinderen gebruik makend van Euroimmun sero assay grote seroprevalence studie met herhaaldelijke staal afname voor bepalen van seroprevalentie en incidentie in lagere and middelbare schoolkinderen. 5.1 .2e kan natuurlijk de agenda fine tunen of bijwerken. De verantwoordelijke van het Sciensano labo en direct betrokken persoon in de validatie in volwassenen van saliva samples zal aanwezig zijn tijdens dit gesprek. lk dank u zeer om voor uw zuiderburen tijd te maken. Vriendelijke groeten, Image /page/1/Figure/14 description: De afbeelding toont een grijze rechthoek met de tekst 5.1 .2e erin. De tekst is waarschijnlijk een referentiecode of een identificatienummer. Het is mogelijk dat dit een aanduiding is voor persoonsgegevens, zoals gespecificeerd in de instructies. De context van de afbeelding is onduidelijk zonder verdere informatie. Image /page/1/Figure/15 description: De afbeelding toont drie grijze balken van verschillende lengtes....
`Wat zijn de algemene kennis en bevindingen over hoe een tweede infectie verloopt bij individuen die eerder de ziekte hebben doorgemaakt?`

Loss: CachedMultipleNegativesRankingLoss with these parameters:

{
    "scale": 20.0,
    "similarity_fct": "cos_sim"
}

Training Hyperparameters

Non-Default Hyperparameters

eval_strategy: epoch
per_device_train_batch_size: 128
learning_rate: 2e-05
warmup_ratio: 0.1
save_only_model: True
bf16: True
dataloader_drop_last: True
load_best_model_at_end: True
ddp_find_unused_parameters: False

All Hyperparameters

Click to expand

overwrite_output_dir: False
do_predict: False
eval_strategy: epoch
prediction_loss_only: True
per_device_train_batch_size: 128
per_device_eval_batch_size: 8
per_gpu_train_batch_size: None
per_gpu_eval_batch_size: None
gradient_accumulation_steps: 1
eval_accumulation_steps: None
torch_empty_cache_steps: None
learning_rate: 2e-05
weight_decay: 0.0
adam_beta1: 0.9
adam_beta2: 0.999
adam_epsilon: 1e-08
max_grad_norm: 1.0
num_train_epochs: 3
max_steps: -1
lr_scheduler_type: linear
lr_scheduler_kwargs: {}
warmup_ratio: 0.1
warmup_steps: 0
log_level: passive
log_level_replica: warning
log_on_each_node: True
logging_nan_inf_filter: True
save_safetensors: True
save_on_each_node: False
save_only_model: True
restore_callback_states_from_checkpoint: False
no_cuda: False
use_cpu: False
use_mps_device: False
seed: 42
data_seed: None
jit_mode_eval: False
use_ipex: False
bf16: True
fp16: False
fp16_opt_level: O1
half_precision_backend: auto
bf16_full_eval: False
fp16_full_eval: False
tf32: None
local_rank: 0
ddp_backend: None
tpu_num_cores: None
tpu_metrics_debug: False
debug: []
dataloader_drop_last: True
dataloader_num_workers: 0
dataloader_prefetch_factor: None
past_index: -1
disable_tqdm: False
remove_unused_columns: True
label_names: None
load_best_model_at_end: True
ignore_data_skip: False
fsdp: []
fsdp_min_num_params: 0
fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
fsdp_transformer_layer_cls_to_wrap: None
accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
deepspeed: None
label_smoothing_factor: 0.0
optim: adamw_torch
optim_args: None
adafactor: False
group_by_length: False
length_column_name: length
ddp_find_unused_parameters: False
ddp_bucket_cap_mb: None
ddp_broadcast_buffers: False
dataloader_pin_memory: True
dataloader_persistent_workers: False
skip_memory_metrics: True
use_legacy_prediction_loop: False
push_to_hub: False
resume_from_checkpoint: None
hub_model_id: None
hub_strategy: every_save
hub_private_repo: None
hub_always_push: False
gradient_checkpointing: False
gradient_checkpointing_kwargs: None
include_inputs_for_metrics: False
include_for_metrics: []
eval_do_concat_batches: True
fp16_backend: auto
push_to_hub_model_id: None
push_to_hub_organization: None
mp_parameters:
auto_find_batch_size: False
full_determinism: False
torchdynamo: None
ray_scope: last
ddp_timeout: 1800
torch_compile: False
torch_compile_backend: None
torch_compile_mode: None
dispatch_batches: None
split_batches: None
include_tokens_per_second: False
include_num_input_tokens_seen: False
neftune_noise_alpha: None
optim_target_modules: None
batch_eval_metrics: False
eval_on_start: False
use_liger_kernel: False
eval_use_gather_object: False
average_tokens_across_devices: False
prompts: None
batch_sampler: batch_sampler
multi_dataset_batch_sampler: proportional

Training Logs

Epoch	Step	Training Loss	cosine_ndcg@10
None	0	-	0.8224
1.0	10	1.2493	0.8627
2.0	20	0.8853	0.8760
3.0	30	0.7618	0.8808

Framework Versions

Python: 3.10.12
Sentence Transformers: 3.4.1
Transformers: 4.49.0
PyTorch: 2.5.1+cu124
Accelerate: 1.4.0
Datasets: 3.3.2
Tokenizers: 0.21.0

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

CachedMultipleNegativesRankingLoss

@misc{gao2021scaling,
    title={Scaling Deep Contrastive Learning Batch Size under Memory Limited Setup},
    author={Luyu Gao and Yunyi Zhang and Jiawei Han and Jamie Callan},
    year={2021},
    eprint={2101.06983},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}