File size: 32,149 Bytes
d884436 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 454 455 456 457 458 459 460 461 462 463 464 465 466 467 468 469 470 471 472 473 474 475 476 477 478 479 480 481 482 483 484 485 486 487 488 489 490 491 492 493 494 495 496 497 498 499 500 501 502 503 504 505 506 507 508 509 510 511 512 513 514 515 516 517 518 519 520 521 522 523 524 525 526 527 528 529 530 531 532 533 534 535 536 537 538 539 540 541 542 543 544 545 546 547 548 549 550 551 552 553 554 555 556 557 558 559 560 561 562 |
---
tags:
- sentence-transformers
- sentence-similarity
- feature-extraction
- generated_from_trainer
- dataset_size:2700
- loss:CachedMultipleNegativesRankingLoss
widget:
- source_sentence: Wat is de betekenis van het getal 10 in dit document?
sentences:
- 'Ooklishes wijl we intet mogelijk sæguen diestate binnen 24 u n a afiyan e tegeneralel
is pollewords: very dear socal feigermoneters of data ai nnen 48u na amarne.'
- '10.'
- " 5.1 .2e` <` 5.1 .2e`@minbzk.nl>), de verzenddatum (woensdag 25 november 2020\
\ 08:43), de geadresseerde (` 5.1 .2e` <` 5.1 .2e`@minvws.nl>) en de CC ontvangers\
\ (` 5.1 .2e` <` 5.1 .2e`@minbzk.nl>; ` 5.1 .2e` <` 5.1 .2e`@minvws.nl>; ` 5.1\
\ .2e` <` 5.1 .2e`@minvws.nl>; ` 5.1 .2e` <` 5.1 .2e`@zorgverzekeringskantoor.nl>).\
\ De e mail lijkt afkomstig te zijn van een intern communicatiekanaal, mogelijk\
\ binnen de Nederlandse overheid, gezien de domeinnamen minbzk.nl en minvws.nl.\n\
\nOnderwerp: RE: Aanvullen Programma SXM\n\nGoedemorgen,\n\nZojuist een nieuwe\
\ afspraak gepland voor 11.15 \n\n Van: 5.1 .2e ) < 5.1 .2e @minvws.nl> \n \n\
\ Verzonden: dinsdag 24 november 2020 17:33 \n Aan: 5.1 .2e < 5.1 .2e @minbzk.nl>\
\ \n CC: 5.1 .2e < 5.1 .2e @minbzk.nl>; 5.1 .2e < 5.1 .2e @minvws.nl>; 5.1 .2e\
\ 5.1 .2e) \n 5.1 .2e < 5.1 .2e @minvws.nl>; 5.1 .2e < 5.1 .2e @zorgverzekeringskantoor.nl>\
\ \n\nOnderwerp: RE: Aanvullen Programma SXM\n\n 5.1 .2e Hoi\n\nWe zitten morgen\
\ op Aruba met een stevig programma. Zou het ook om 11.15 uur kunnen? Ik ben dan\
\ op de vertegenwoordiging en daar is een stabiele wifi.\n\nGroet.\n\n 5.1 .2e\n\
\n# Verzonden met BlackBerry Work (www.blackberry.com)\n\n Van: 5.1 .2e < 5.1\
\ .2e @minbzk.nl> \n \n Datum: dinsdag 24 nov. 2020 4:02 PM \n Aan: 5.1 .2e <\
\ 5.1 .2e @minvws.nl> \n Kopie: 5.1 .2e < 5.1 .2e @minbzk.nl>, 5.1 .2e < 5.1 .2e\
\ @minvws.nl>, 5.1 .2e < 5.1 .2e @minvws.nl>, 5.1 .2e < 5.1 .2e @zorgverzekeringskantoor.nl>\
\ \n\n Onderwerp: RE: Aanvullen Programma SXM\n\n# Hoi 5.1 .2e\n\nWelkom in de\
\ Caraïben en goed plan. Wat dacht je van morgenmiddag om 14.00 uur. Ik stuur\
\ zo een uitnodiging en als het niet uitkomt verschuiven we deze gewoon.\n\nIk\
\ heb nog wel aantal vragen die we morgen even langs moeten lopen\n\n Totaal aantal\
\ personen is 5?\n \n ik begreep van 5.1 .2e dat 512 (?) ook vervoer aan het regelen.\
\ Normaal gesproken regelen wij het vervoer hier. Dus graag even afstemmen. Gezien\
\ jullie niet overal met z ´n allen naar toe gaan, kan een huurauto daamaast handig\
\ zijn, laat maar weten\n zie mijn vraag in het ro"
- source_sentence: Wie zijn de auteurs van dit documentfragment?
sentences:
- Op 10 november zijn er 204 clusters (in verpleeghuizen en wooncentra voor ouderen)
geregistreerd met in totaal 2.208 meldingen.
- Cameron, M. J., Bermejo Martin, J.
- 'st trace contact isoleer falen dat ons net de tweede infectiegoff opzadelde.
Openheid ontbreekt opniew nu iederen reikhalzend uitziet naar twee beschernende
maar de vergrote meerderheid van het volk geen idee heeft wanneer wij weer ons
heellijkvrije leven kunnen oppakken.
Journalisten en politici begrijpen nog steeds niet wat exponentiele groei betekent
en ook niet welke aanpak 24 miljoen keer prikken vergt. Het eerste punt ga ik
niet nog een uitlebben honderden reeds gedaan, met twee korrels rijst op het eerste
schaakbood vakje als mi. meest sprekende voorbeeld. Ik ga nu heel sinnet doen
om per 1 juli 2021 wel klaar te zijn net vaccineren en niet pas in juli 2022.
Wij zijn met 17 200 000 Nederlandse ingezetenen: en dellen zeegen dat wanneer
twee derde van ons gevaccineed is, het virus snel uitde innuntet. Afgerand zijn
dat 12 miljoen ingeënte mense; indien iederen twee keer geprikt moet worden met
tussen moet er 24 miljoen keer geprikt worden. Die prikken worden gezet door nin
of neer geschoold personeel, artsen, verplegers, paramedics, medische studenten
e.d .; ik noem ze hier prikkers.
Ik zag op TV een oudere huisarts die zei dat hij er, extrapolerend vanuit griepprik
ervaring, 60 per uur goed kan zetten. In mijn aannames ga ik dat tempo halveren.
Hier volgen de model aannames en de eenvoudige sommen.
Model aanname 1: een prikken per uur zetten bij goede team voorbereiding en nazorg.
Een week heeft 168 uur, dus afgerond 10 000 minuten. Geniddeld vergt éen prik
2 minuten, dus vergen 24 miljoen prikken 48 miljoen minuten; deel dat door de
10 000 niuuten per week en een mikker die continu werkt heeft (bij aannane 1)
480 weken nodig, Meteen evident: prikken moet in heel veel paries. Nemen we, GGD
(Gemeentelijke Gezondheidsdienst) achtig, 24 lokaties en rusten we elke lokatie
uit neet 10 priksporen, dan moet elk spoor 20 weken continuten éen keer prikken
zetten per week. Beginnen we midden februari fer moet dan tussen nu en dan heel
veel logistisstorisch werk wor'
- source_sentence: Welke vier categorieën worden weergegeven in de gestapelde balken?
sentences:
- De mensen die onder deze uitzondering vallen kunnen veelvuldig te maken krijgen
met vragen van bijvoorbeeld winkeliers of handhavingsbeambten.
- 'There are four categories represented in the stacked bars: NL excl, AMS, HGL,
and RR.'
- "Veel nieuwe mensen bij betrokken. Oorspronkelijk ging het om de teststraat op\
\ Schiphol, maar nu verandert de insteek. Bezig met opstellen van interviewvragen\
\ – 5120 heeft een mooie set vragen gemaakt op basis van literatuur. Vraag blijft\
\ of we Schiphol data mee kunnen nemen in de memo - dat is afhankelijk van tijdlijn\
\ VWS (Volksgezondheid, Welzijn en Sport). \n5 1.2e ·\n\nWe gaan de vraagstelling\
\ voor de verdiepende interviews wat aanpassen: hoe is de pandemie op iets hoger\
\ abstractieniveau geweest?"
- source_sentence: Welke redenen van dwingende spoed hebben ervoor gezorgd dat de
Minister een onderhandelingsprocedure zonder voorafgaande bekendmaking heeft gekozen
voor deze overeenkomst?
sentences:
- De Minister heeft deze Overeenkomst opgedragen na een onderhandelingsprocedure
zonder voorafgaande bekendmaking nu de termijnen voor de openbare of niet openbare
procedures of de mededingingsprocedure met onderhandeling niet in acht kunnen
worden genomen om redenen van dwingende spoed die niet voorzien konden worden
door de Minister (zie ook EC2020/C 1081/01).
- Er hole it zeen extra auto in ite worden gezet (Poluur zaam) en In dat geval basir
segt die alstand minder die 10 jan.
- "544917 \n \n \n\n To: 5.1 .2e 5.1 .2e @labmicta.nl \n \n Cc: 5.1 .2e @gmail.com;\
\ 5.1 .2e @gmail.com]; 5.1 .2e 5.1 .2e @labmicta.nl]; 5.1 .2e 5.1 .2e @labmicta.nl\
\ \n From: 5.1 .2e \n Sent: Sat 8/22/2020 1:07:36 PM \n Subject: RE: resultaten\
\ speekselpanel \n Received: Sat 8/22/2020 1:07:37 PM \n Verwachte resultaten\
\ speeksel panel SARS CoV 2 ronde 1 versie 2.pdf \n\nBeste\n\nDank je wel voor\
\ de resultaten.\n\nDe vier monsters die door meeste labs worden gedetecteerd\
\ hebben jullie ook gevonden; en alle drie de methoden van opwerking als zwakke\
\ curve meegerekend wordt. Het ene monster met laagste concentratie virus die\
\ jullie negatief scoren is een educational monster wat door weinig labs positief\
\ wordt gevonden. Bijgevoegd de verwachte resultaten en hieronder plaatjes van\
\ de resultaten van beste methode(s) per lab.\n\nImage /page/0/Figure/5 description:\
\ De afbeelding toont een grafiek met de titel 'Speekselpanel SARS CoV 2'. De\
\ grafiek visualiseert Ct waarden (Cycle threshold) voor verschillende samples,\
\ aangeduid als 'Target 1 Sen.SALIVA\\_CoV20 XX' en 'Target 2 Sen.SALIVA\\_CoV20\
\ XX'. De Ct waarden variëren van ongeveer 20 tot 40, met enkele uitschieters\
\ rond de 50. De grafiek lijkt de resultaten van een SARS CoV 2 test te presenteren,\
\ waarbij de Ct waarde een indicatie geeft van de virusconcentratie in de speekselmonsters.\n\
\nPer laboratorium zijn alleen de twee meest gevoelige targets in deze grafiek\
\ weergegeven. Niet alle laboratoria gebruiken tests waar twee gen targets gebruikt\
\ worden. Ct 50 = artificiële Ct waarde voor een negatief resultaat. Voor datasets\
\ zonder negatieve resultaten is mediaan met IQR weergegeven.\n\nImage /page/1/Figure/9\
\ description: De afbeelding toont een grafiek met kwalitatieve resultaten van\
\ een speekselpanel voor SARS CoV 2. De grafiek vergelijkt het percentage labs\
\ met een positief resultaat voor drie verschillende targets: Target 1 (n=21),\
\ Target 2 (n=10) en een positieve uitslag. De x as toont verschillende concentraties,\
\ variërend van Sen.SALIVA\\_CoV20 01 "
- source_sentence: Wanneer kunnen we een gedetailleerd overzicht verwachten van de
effectiviteit van de genomen maatregelen, inclusief de exacte resultaten en de
verwachte voltooiingstijd?
sentences:
- "974272\n\n 5.1 .2e = s. 1.2e ( 5.1 .2e )[ 5.1 .2e @minvws.nl] To: 5.1 .2e 1.2\
\ 5.1 .2e ( 5.1 .2e ( 5.1 .2e) From: Sent: Tue 12/1/2020 9:20:20 AM Subject: RE:\
\ akkoord?: annotatie MCC Received: Tue 12/1/2020 9:20:21 AM\n\nOp kamer secretariaat\
\ ( ; kom zo even langs\n\nVan 5.1 .2e 5.1 .2e ( 5.1 .2e = 5.1 .2e @minvws.nl>\
\ Verzonden: dinsdag 1 december 2020 09:53 Aan: 5.1 .2e 1.2e ( 5.1 .2e ( 5.1 .2e)\
\ = 5.1 .2e @minvws.nl> Onderwerp: FW: akkoord?: annotatie MCC\n\n 5.1 .2e , ter\
\ info onderstaand.\n\nWaar zit jij vandaag ? Liep al 2 rondjes zonder succes\
\ \\*\n\nGroeten 5.1 .2e\n\nVerzonden met BlackBerry Work (www.blackberry.com)\n\
\nImage /page/0/Picture/8 description: De afbeelding is een screenshot van een\
\ e mailheader. De 'Van' regel toont de afzender met het e mailadres ` 5.1 [email protected]`.\
\ De 'Datum' regel geeft aan dat de e mail is verzonden op maandag 30 november\
\ 2020 om 11:07 PM. De 'Aan' regel bevat meerdere ontvangers met het e mailadres\
\ ` 5.1 [email protected]`, en de 'Kopie' regel bevat ook een ontvanger met het e\
\ mailadres ` 5.1 [email protected]`. Het onderwerp van de e mail is 'RE: akkoord?:\
\ annotatie MCC'.\n\n Hi 5.1 .2e\n\nDe opzet van risiconiveau zeer emstig in de\
\ herijkte routekaart is nieuw. Risiconiveau zeer ernstig betreft vanianten van\
\ een lockdown en we geven alleen mogelijke verdere beperkingen en geheltelijke\
\ sluitingen met de onderwerpen aan. Maar niet welke verdere beperkingen en dus\
\ ook geen uitzonderingen. Dit omdat het vastleggen van welke maatregelen je in\
\ een lockdown variant gaat treffen ondoenlijk is. De precieze maatregelen in\
\ een lockdown worden tzt geformuleerd in een aparte ministeriële regeling. Die\
\ gaat dan de besluitvomingsprocedure door.\n\nGroeten. 5.1 .2e\n\nVerzonden met\
\ BlackBerry Work (www.blackberry.com)\n\nImage /page/0/Picture/13 description:\
\ Dit is een screenshot van een e mailheader. De e mail is verzonden door ` 5.1\
\ .2e` op maandag 30 november 2020 om 10:52 PM. De e mail is gericht aan meerdere\
\ ontvangers, waaronder ` 5.1 .2e` en ` 5.1 [email protected]`. H"
- 'En ik vraag het nog een keer – al moet ik het honderd keer vragen: wanneer krijgen
wij een overzicht ten aanzien van al die maatregelen van hoeveel mensen er precies
zijn en wat voor exacte resultaten zijn bereikt en wanneer de rest wordt bereikt?'
- The y axis represents "IC (Inspectie van het Onderwijs) bezetting" (IC (Inspectie
van het Onderwijs) occupancy), ranging from 0 to 2500.
pipeline_tag: sentence-similarity
library_name: sentence-transformers
metrics:
- cosine_accuracy@1
- cosine_accuracy@5
- cosine_precision@1
- cosine_precision@5
- cosine_recall@1
- cosine_recall@5
- cosine_ndcg@10
- cosine_mrr@10
- cosine_map@10
model-index:
- name: SentenceTransformer
results:
- task:
type: information-retrieval
name: Information Retrieval
dataset:
name: Unknown
type: unknown
metrics:
- type: cosine_accuracy@1
value: 0.8133333333333334
name: Cosine Accuracy@1
- type: cosine_accuracy@5
value: 0.92
name: Cosine Accuracy@5
- type: cosine_precision@1
value: 0.8133333333333334
name: Cosine Precision@1
- type: cosine_precision@5
value: 0.18399999999999997
name: Cosine Precision@5
- type: cosine_recall@1
value: 0.8133333333333334
name: Cosine Recall@1
- type: cosine_recall@5
value: 0.92
name: Cosine Recall@5
- type: cosine_ndcg@10
value: 0.8808263405745779
name: Cosine Ndcg@10
- type: cosine_mrr@10
value: 0.8623928571428572
name: Cosine Mrr@10
- type: cosine_map@10
value: 0.8623928571428572
name: Cosine Map@10
---
# SentenceTransformer
This is a [sentence-transformers](https://www.SBERT.net) model trained. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
## Model Details
### Model Description
- **Model Type:** Sentence Transformer
<!-- - **Base model:** [Unknown](https://huggingface.co/unknown) -->
- **Maximum Sequence Length:** 128 tokens
- **Output Dimensionality:** 768 dimensions
- **Similarity Function:** Cosine Similarity
<!-- - **Training Dataset:** Unknown -->
<!-- - **Language:** Unknown -->
<!-- - **License:** Unknown -->
### Model Sources
- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
### Full Model Architecture
```
SentenceTransformer(
(0): Transformer({'max_seq_length': 128, 'do_lower_case': False}) with Transformer model: RobertaModel
(1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)
```
## Usage
### Direct Usage (Sentence Transformers)
First install the Sentence Transformers library:
```bash
pip install -U sentence-transformers
```
Then you can load this model and run inference.
```python
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("sentence_transformers_model_id")
# Run inference
sentences = [
'Wanneer kunnen we een gedetailleerd overzicht verwachten van de effectiviteit van de genomen maatregelen, inclusief de exacte resultaten en de verwachte voltooiingstijd?',
'En ik vraag het nog een keer – al moet ik het honderd keer vragen: wanneer krijgen wij een overzicht ten aanzien van al die maatregelen van hoeveel mensen er precies zijn en wat voor exacte resultaten zijn bereikt en wanneer de rest wordt bereikt?',
"974272\n\n 5.1 .2e = s. 1.2e ( 5.1 .2e )[ 5.1 .2e @minvws.nl] To: 5.1 .2e 1.2 5.1 .2e ( 5.1 .2e ( 5.1 .2e) From: Sent: Tue 12/1/2020 9:20:20 AM Subject: RE: akkoord?: annotatie MCC Received: Tue 12/1/2020 9:20:21 AM\n\nOp kamer secretariaat ( ; kom zo even langs\n\nVan 5.1 .2e 5.1 .2e ( 5.1 .2e = 5.1 .2e @minvws.nl> Verzonden: dinsdag 1 december 2020 09:53 Aan: 5.1 .2e 1.2e ( 5.1 .2e ( 5.1 .2e) = 5.1 .2e @minvws.nl> Onderwerp: FW: akkoord?: annotatie MCC\n\n 5.1 .2e , ter info onderstaand.\n\nWaar zit jij vandaag ? Liep al 2 rondjes zonder succes \\*\n\nGroeten 5.1 .2e\n\nVerzonden met BlackBerry Work (www.blackberry.com)\n\nImage /page/0/Picture/8 description: De afbeelding is een screenshot van een e mailheader. De 'Van' regel toont de afzender met het e mailadres ` 5.1 [email protected]`. De 'Datum' regel geeft aan dat de e mail is verzonden op maandag 30 november 2020 om 11:07 PM. De 'Aan' regel bevat meerdere ontvangers met het e mailadres ` 5.1 [email protected]`, en de 'Kopie' regel bevat ook een ontvanger met het e mailadres ` 5.1 [email protected]`. Het onderwerp van de e mail is 'RE: akkoord?: annotatie MCC'.\n\n Hi 5.1 .2e\n\nDe opzet van risiconiveau zeer emstig in de herijkte routekaart is nieuw. Risiconiveau zeer ernstig betreft vanianten van een lockdown en we geven alleen mogelijke verdere beperkingen en geheltelijke sluitingen met de onderwerpen aan. Maar niet welke verdere beperkingen en dus ook geen uitzonderingen. Dit omdat het vastleggen van welke maatregelen je in een lockdown variant gaat treffen ondoenlijk is. De precieze maatregelen in een lockdown worden tzt geformuleerd in een aparte ministeriële regeling. Die gaat dan de besluitvomingsprocedure door.\n\nGroeten. 5.1 .2e\n\nVerzonden met BlackBerry Work (www.blackberry.com)\n\nImage /page/0/Picture/13 description: Dit is een screenshot van een e mailheader. De e mail is verzonden door ` 5.1 .2e` op maandag 30 november 2020 om 10:52 PM. De e mail is gericht aan meerdere ontvangers, waaronder ` 5.1 .2e` en ` 5.1 [email protected]`. H",
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]
# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
```
<!--
### Direct Usage (Transformers)
<details><summary>Click to see the direct usage in Transformers</summary>
</details>
-->
<!--
### Downstream Usage (Sentence Transformers)
You can finetune this model on your own dataset.
<details><summary>Click to expand</summary>
</details>
-->
<!--
### Out-of-Scope Use
*List how the model may foreseeably be misused and address what users ought not to do with the model.*
-->
## Evaluation
### Metrics
#### Information Retrieval
* Evaluated with [<code>InformationRetrievalEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.InformationRetrievalEvaluator)
| Metric | Value |
|:-------------------|:-----------|
| cosine_accuracy@1 | 0.8133 |
| cosine_accuracy@5 | 0.92 |
| cosine_precision@1 | 0.8133 |
| cosine_precision@5 | 0.184 |
| cosine_recall@1 | 0.8133 |
| cosine_recall@5 | 0.92 |
| **cosine_ndcg@10** | **0.8808** |
| cosine_mrr@10 | 0.8624 |
| cosine_map@10 | 0.8624 |
<!--
## Bias, Risks and Limitations
*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
-->
<!--
### Recommendations
*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
-->
## Training Details
### Training Dataset
#### Unnamed Dataset
* Size: 2,700 training samples
* Columns: <code>anchor</code> and <code>positive</code>
* Approximate statistics based on the first 1000 samples:
| | anchor | positive |
|:--------|:-----------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------|
| type | string | string |
| details | <ul><li>min: 7 tokens</li><li>mean: 30.76 tokens</li><li>max: 128 tokens</li></ul> | <ul><li>min: 3 tokens</li><li>mean: 72.93 tokens</li><li>max: 128 tokens</li></ul> |
* Samples:
| anchor | positive |
|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| <code>Hoe werd een geschil tussen twee reviewers over classificatie opgelost?</code> | <code>Disagreement between two reviewers on classification was resolved by a third reviewer.</code> |
| <code>Wat is de rol van de persoon met het e-mailadres 5.1 [email protected] in de validatie van saliva samples voor het detecteren van antistoffen bij kinderen, en hoe verloopt de samenwerking met Sciensano labo in deze studie?</code> | <code>udie ter validatie van saliva sample in kinderen gebruik makend van Euroimmun sero assay<br><br> grote seroprevalence studie met herhaaldelijke staal afname voor bepalen van seroprevalentie en incidentie in lagere and middelbare schoolkinderen.<br><br> 5.1 .2e kan natuurlijk de agenda fine tunen of bijwerken.<br><br>De verantwoordelijke van het Sciensano labo en direct betrokken persoon in de validatie in volwassenen van saliva samples zal aanwezig zijn tijdens dit gesprek.<br><br>lk dank u zeer om voor uw zuiderburen tijd te maken.<br><br>Vriendelijke groeten,<br><br>Image /page/1/Figure/14 description: De afbeelding toont een grijze rechthoek met de tekst ` 5.1 .2e` erin. De tekst is waarschijnlijk een referentiecode of een identificatienummer. Het is mogelijk dat dit een aanduiding is voor persoonsgegevens, zoals gespecificeerd in de instructies. De context van de afbeelding is onduidelijk zonder verdere informatie.<br><br>Image /page/1/Figure/15 description: De afbeelding toont drie grijze balken van verschillende lengtes....</code> |
| <code>Wat zijn de algemene kennis en bevindingen over hoe een tweede infectie verloopt bij individuen die eerder de ziekte hebben doorgemaakt?</code> | <code>| | |<br>| 71 | Wat is er op dit moment bekend over het verloop van een tweede infectie (dus bij een persoon die al eerder de ziekte heeft doorgemaakt en opnieuw besmet wordt)?</code> |
* Loss: [<code>CachedMultipleNegativesRankingLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#cachedmultiplenegativesrankingloss) with these parameters:
```json
{
"scale": 20.0,
"similarity_fct": "cos_sim"
}
```
### Training Hyperparameters
#### Non-Default Hyperparameters
- `eval_strategy`: epoch
- `per_device_train_batch_size`: 128
- `learning_rate`: 2e-05
- `warmup_ratio`: 0.1
- `save_only_model`: True
- `bf16`: True
- `dataloader_drop_last`: True
- `load_best_model_at_end`: True
- `ddp_find_unused_parameters`: False
#### All Hyperparameters
<details><summary>Click to expand</summary>
- `overwrite_output_dir`: False
- `do_predict`: False
- `eval_strategy`: epoch
- `prediction_loss_only`: True
- `per_device_train_batch_size`: 128
- `per_device_eval_batch_size`: 8
- `per_gpu_train_batch_size`: None
- `per_gpu_eval_batch_size`: None
- `gradient_accumulation_steps`: 1
- `eval_accumulation_steps`: None
- `torch_empty_cache_steps`: None
- `learning_rate`: 2e-05
- `weight_decay`: 0.0
- `adam_beta1`: 0.9
- `adam_beta2`: 0.999
- `adam_epsilon`: 1e-08
- `max_grad_norm`: 1.0
- `num_train_epochs`: 3
- `max_steps`: -1
- `lr_scheduler_type`: linear
- `lr_scheduler_kwargs`: {}
- `warmup_ratio`: 0.1
- `warmup_steps`: 0
- `log_level`: passive
- `log_level_replica`: warning
- `log_on_each_node`: True
- `logging_nan_inf_filter`: True
- `save_safetensors`: True
- `save_on_each_node`: False
- `save_only_model`: True
- `restore_callback_states_from_checkpoint`: False
- `no_cuda`: False
- `use_cpu`: False
- `use_mps_device`: False
- `seed`: 42
- `data_seed`: None
- `jit_mode_eval`: False
- `use_ipex`: False
- `bf16`: True
- `fp16`: False
- `fp16_opt_level`: O1
- `half_precision_backend`: auto
- `bf16_full_eval`: False
- `fp16_full_eval`: False
- `tf32`: None
- `local_rank`: 0
- `ddp_backend`: None
- `tpu_num_cores`: None
- `tpu_metrics_debug`: False
- `debug`: []
- `dataloader_drop_last`: True
- `dataloader_num_workers`: 0
- `dataloader_prefetch_factor`: None
- `past_index`: -1
- `disable_tqdm`: False
- `remove_unused_columns`: True
- `label_names`: None
- `load_best_model_at_end`: True
- `ignore_data_skip`: False
- `fsdp`: []
- `fsdp_min_num_params`: 0
- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
- `fsdp_transformer_layer_cls_to_wrap`: None
- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
- `deepspeed`: None
- `label_smoothing_factor`: 0.0
- `optim`: adamw_torch
- `optim_args`: None
- `adafactor`: False
- `group_by_length`: False
- `length_column_name`: length
- `ddp_find_unused_parameters`: False
- `ddp_bucket_cap_mb`: None
- `ddp_broadcast_buffers`: False
- `dataloader_pin_memory`: True
- `dataloader_persistent_workers`: False
- `skip_memory_metrics`: True
- `use_legacy_prediction_loop`: False
- `push_to_hub`: False
- `resume_from_checkpoint`: None
- `hub_model_id`: None
- `hub_strategy`: every_save
- `hub_private_repo`: None
- `hub_always_push`: False
- `gradient_checkpointing`: False
- `gradient_checkpointing_kwargs`: None
- `include_inputs_for_metrics`: False
- `include_for_metrics`: []
- `eval_do_concat_batches`: True
- `fp16_backend`: auto
- `push_to_hub_model_id`: None
- `push_to_hub_organization`: None
- `mp_parameters`:
- `auto_find_batch_size`: False
- `full_determinism`: False
- `torchdynamo`: None
- `ray_scope`: last
- `ddp_timeout`: 1800
- `torch_compile`: False
- `torch_compile_backend`: None
- `torch_compile_mode`: None
- `dispatch_batches`: None
- `split_batches`: None
- `include_tokens_per_second`: False
- `include_num_input_tokens_seen`: False
- `neftune_noise_alpha`: None
- `optim_target_modules`: None
- `batch_eval_metrics`: False
- `eval_on_start`: False
- `use_liger_kernel`: False
- `eval_use_gather_object`: False
- `average_tokens_across_devices`: False
- `prompts`: None
- `batch_sampler`: batch_sampler
- `multi_dataset_batch_sampler`: proportional
</details>
### Training Logs
| Epoch | Step | Training Loss | cosine_ndcg@10 |
|:-----:|:----:|:-------------:|:--------------:|
| None | 0 | - | 0.8224 |
| 1.0 | 10 | 1.2493 | 0.8627 |
| 2.0 | 20 | 0.8853 | 0.8760 |
| 3.0 | 30 | 0.7618 | 0.8808 |
### Framework Versions
- Python: 3.10.12
- Sentence Transformers: 3.4.1
- Transformers: 4.49.0
- PyTorch: 2.5.1+cu124
- Accelerate: 1.4.0
- Datasets: 3.3.2
- Tokenizers: 0.21.0
## Citation
### BibTeX
#### Sentence Transformers
```bibtex
@inproceedings{reimers-2019-sentence-bert,
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
author = "Reimers, Nils and Gurevych, Iryna",
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
month = "11",
year = "2019",
publisher = "Association for Computational Linguistics",
url = "https://arxiv.org/abs/1908.10084",
}
```
#### CachedMultipleNegativesRankingLoss
```bibtex
@misc{gao2021scaling,
title={Scaling Deep Contrastive Learning Batch Size under Memory Limited Setup},
author={Luyu Gao and Yunyi Zhang and Jiawei Han and Jamie Callan},
year={2021},
eprint={2101.06983},
archivePrefix={arXiv},
primaryClass={cs.LG}
}
```
<!--
## Glossary
*Clearly define terms in order to be accessible across audiences.*
-->
<!--
## Model Card Authors
*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
-->
<!--
## Model Card Contact
*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
--> |