|
--- |
|
tags: |
|
- sentence-transformers |
|
- sentence-similarity |
|
- feature-extraction |
|
- generated_from_trainer |
|
- dataset_size:2700 |
|
- loss:CachedMultipleNegativesRankingLoss |
|
widget: |
|
- source_sentence: Wat is de betekenis van het getal 10 in dit document? |
|
sentences: |
|
- 'Ooklishes wijl we intet mogelijk sæguen diestate binnen 24 u n a afiyan e tegeneralel |
|
is pollewords: very dear socal feigermoneters of data ai nnen 48u na amarne.' |
|
- '10.' |
|
- " 5.1 .2e` <` 5.1 .2e`@minbzk.nl>), de verzenddatum (woensdag 25 november 2020\ |
|
\ 08:43), de geadresseerde (` 5.1 .2e` <` 5.1 .2e`@minvws.nl>) en de CC ontvangers\ |
|
\ (` 5.1 .2e` <` 5.1 .2e`@minbzk.nl>; ` 5.1 .2e` <` 5.1 .2e`@minvws.nl>; ` 5.1\ |
|
\ .2e` <` 5.1 .2e`@minvws.nl>; ` 5.1 .2e` <` 5.1 .2e`@zorgverzekeringskantoor.nl>).\ |
|
\ De e mail lijkt afkomstig te zijn van een intern communicatiekanaal, mogelijk\ |
|
\ binnen de Nederlandse overheid, gezien de domeinnamen minbzk.nl en minvws.nl.\n\ |
|
\nOnderwerp: RE: Aanvullen Programma SXM\n\nGoedemorgen,\n\nZojuist een nieuwe\ |
|
\ afspraak gepland voor 11.15 \n\n Van: 5.1 .2e ) < 5.1 .2e @minvws.nl> \n \n\ |
|
\ Verzonden: dinsdag 24 november 2020 17:33 \n Aan: 5.1 .2e < 5.1 .2e @minbzk.nl>\ |
|
\ \n CC: 5.1 .2e < 5.1 .2e @minbzk.nl>; 5.1 .2e < 5.1 .2e @minvws.nl>; 5.1 .2e\ |
|
\ 5.1 .2e) \n 5.1 .2e < 5.1 .2e @minvws.nl>; 5.1 .2e < 5.1 .2e @zorgverzekeringskantoor.nl>\ |
|
\ \n\nOnderwerp: RE: Aanvullen Programma SXM\n\n 5.1 .2e Hoi\n\nWe zitten morgen\ |
|
\ op Aruba met een stevig programma. Zou het ook om 11.15 uur kunnen? Ik ben dan\ |
|
\ op de vertegenwoordiging en daar is een stabiele wifi.\n\nGroet.\n\n 5.1 .2e\n\ |
|
\n# Verzonden met BlackBerry Work (www.blackberry.com)\n\n Van: 5.1 .2e < 5.1\ |
|
\ .2e @minbzk.nl> \n \n Datum: dinsdag 24 nov. 2020 4:02 PM \n Aan: 5.1 .2e <\ |
|
\ 5.1 .2e @minvws.nl> \n Kopie: 5.1 .2e < 5.1 .2e @minbzk.nl>, 5.1 .2e < 5.1 .2e\ |
|
\ @minvws.nl>, 5.1 .2e < 5.1 .2e @minvws.nl>, 5.1 .2e < 5.1 .2e @zorgverzekeringskantoor.nl>\ |
|
\ \n\n Onderwerp: RE: Aanvullen Programma SXM\n\n# Hoi 5.1 .2e\n\nWelkom in de\ |
|
\ Caraïben en goed plan. Wat dacht je van morgenmiddag om 14.00 uur. Ik stuur\ |
|
\ zo een uitnodiging en als het niet uitkomt verschuiven we deze gewoon.\n\nIk\ |
|
\ heb nog wel aantal vragen die we morgen even langs moeten lopen\n\n Totaal aantal\ |
|
\ personen is 5?\n \n ik begreep van 5.1 .2e dat 512 (?) ook vervoer aan het regelen.\ |
|
\ Normaal gesproken regelen wij het vervoer hier. Dus graag even afstemmen. Gezien\ |
|
\ jullie niet overal met z ´n allen naar toe gaan, kan een huurauto daamaast handig\ |
|
\ zijn, laat maar weten\n zie mijn vraag in het ro" |
|
- source_sentence: Wie zijn de auteurs van dit documentfragment? |
|
sentences: |
|
- Op 10 november zijn er 204 clusters (in verpleeghuizen en wooncentra voor ouderen) |
|
geregistreerd met in totaal 2.208 meldingen. |
|
- Cameron, M. J., Bermejo Martin, J. |
|
- 'st trace contact isoleer falen dat ons net de tweede infectiegoff opzadelde. |
|
Openheid ontbreekt opniew nu iederen reikhalzend uitziet naar twee beschernende |
|
maar de vergrote meerderheid van het volk geen idee heeft wanneer wij weer ons |
|
heellijkvrije leven kunnen oppakken. |
|
|
|
|
|
Journalisten en politici begrijpen nog steeds niet wat exponentiele groei betekent |
|
en ook niet welke aanpak 24 miljoen keer prikken vergt. Het eerste punt ga ik |
|
niet nog een uitlebben honderden reeds gedaan, met twee korrels rijst op het eerste |
|
schaakbood vakje als mi. meest sprekende voorbeeld. Ik ga nu heel sinnet doen |
|
om per 1 juli 2021 wel klaar te zijn net vaccineren en niet pas in juli 2022. |
|
|
|
|
|
Wij zijn met 17 200 000 Nederlandse ingezetenen: en dellen zeegen dat wanneer |
|
twee derde van ons gevaccineed is, het virus snel uitde innuntet. Afgerand zijn |
|
dat 12 miljoen ingeënte mense; indien iederen twee keer geprikt moet worden met |
|
tussen moet er 24 miljoen keer geprikt worden. Die prikken worden gezet door nin |
|
of neer geschoold personeel, artsen, verplegers, paramedics, medische studenten |
|
e.d .; ik noem ze hier prikkers. |
|
|
|
|
|
Ik zag op TV een oudere huisarts die zei dat hij er, extrapolerend vanuit griepprik |
|
ervaring, 60 per uur goed kan zetten. In mijn aannames ga ik dat tempo halveren. |
|
Hier volgen de model aannames en de eenvoudige sommen. |
|
|
|
|
|
Model aanname 1: een prikken per uur zetten bij goede team voorbereiding en nazorg. |
|
|
|
|
|
Een week heeft 168 uur, dus afgerond 10 000 minuten. Geniddeld vergt éen prik |
|
2 minuten, dus vergen 24 miljoen prikken 48 miljoen minuten; deel dat door de |
|
10 000 niuuten per week en een mikker die continu werkt heeft (bij aannane 1) |
|
480 weken nodig, Meteen evident: prikken moet in heel veel paries. Nemen we, GGD |
|
(Gemeentelijke Gezondheidsdienst) achtig, 24 lokaties en rusten we elke lokatie |
|
uit neet 10 priksporen, dan moet elk spoor 20 weken continuten éen keer prikken |
|
zetten per week. Beginnen we midden februari fer moet dan tussen nu en dan heel |
|
veel logistisstorisch werk wor' |
|
- source_sentence: Welke vier categorieën worden weergegeven in de gestapelde balken? |
|
sentences: |
|
- De mensen die onder deze uitzondering vallen kunnen veelvuldig te maken krijgen |
|
met vragen van bijvoorbeeld winkeliers of handhavingsbeambten. |
|
- 'There are four categories represented in the stacked bars: NL excl, AMS, HGL, |
|
and RR.' |
|
- "Veel nieuwe mensen bij betrokken. Oorspronkelijk ging het om de teststraat op\ |
|
\ Schiphol, maar nu verandert de insteek. Bezig met opstellen van interviewvragen\ |
|
\ – 5120 heeft een mooie set vragen gemaakt op basis van literatuur. Vraag blijft\ |
|
\ of we Schiphol data mee kunnen nemen in de memo - dat is afhankelijk van tijdlijn\ |
|
\ VWS (Volksgezondheid, Welzijn en Sport). \n5 1.2e ·\n\nWe gaan de vraagstelling\ |
|
\ voor de verdiepende interviews wat aanpassen: hoe is de pandemie op iets hoger\ |
|
\ abstractieniveau geweest?" |
|
- source_sentence: Welke redenen van dwingende spoed hebben ervoor gezorgd dat de |
|
Minister een onderhandelingsprocedure zonder voorafgaande bekendmaking heeft gekozen |
|
voor deze overeenkomst? |
|
sentences: |
|
- De Minister heeft deze Overeenkomst opgedragen na een onderhandelingsprocedure |
|
zonder voorafgaande bekendmaking nu de termijnen voor de openbare of niet openbare |
|
procedures of de mededingingsprocedure met onderhandeling niet in acht kunnen |
|
worden genomen om redenen van dwingende spoed die niet voorzien konden worden |
|
door de Minister (zie ook EC2020/C 1081/01). |
|
- Er hole it zeen extra auto in ite worden gezet (Poluur zaam) en In dat geval basir |
|
segt die alstand minder die 10 jan. |
|
- "544917 \n \n \n\n To: 5.1 .2e 5.1 .2e @labmicta.nl \n \n Cc: 5.1 .2e @gmail.com;\ |
|
\ 5.1 .2e @gmail.com]; 5.1 .2e 5.1 .2e @labmicta.nl]; 5.1 .2e 5.1 .2e @labmicta.nl\ |
|
\ \n From: 5.1 .2e \n Sent: Sat 8/22/2020 1:07:36 PM \n Subject: RE: resultaten\ |
|
\ speekselpanel \n Received: Sat 8/22/2020 1:07:37 PM \n Verwachte resultaten\ |
|
\ speeksel panel SARS CoV 2 ronde 1 versie 2.pdf \n\nBeste\n\nDank je wel voor\ |
|
\ de resultaten.\n\nDe vier monsters die door meeste labs worden gedetecteerd\ |
|
\ hebben jullie ook gevonden; en alle drie de methoden van opwerking als zwakke\ |
|
\ curve meegerekend wordt. Het ene monster met laagste concentratie virus die\ |
|
\ jullie negatief scoren is een educational monster wat door weinig labs positief\ |
|
\ wordt gevonden. Bijgevoegd de verwachte resultaten en hieronder plaatjes van\ |
|
\ de resultaten van beste methode(s) per lab.\n\nImage /page/0/Figure/5 description:\ |
|
\ De afbeelding toont een grafiek met de titel 'Speekselpanel SARS CoV 2'. De\ |
|
\ grafiek visualiseert Ct waarden (Cycle threshold) voor verschillende samples,\ |
|
\ aangeduid als 'Target 1 Sen.SALIVA\\_CoV20 XX' en 'Target 2 Sen.SALIVA\\_CoV20\ |
|
\ XX'. De Ct waarden variëren van ongeveer 20 tot 40, met enkele uitschieters\ |
|
\ rond de 50. De grafiek lijkt de resultaten van een SARS CoV 2 test te presenteren,\ |
|
\ waarbij de Ct waarde een indicatie geeft van de virusconcentratie in de speekselmonsters.\n\ |
|
\nPer laboratorium zijn alleen de twee meest gevoelige targets in deze grafiek\ |
|
\ weergegeven. Niet alle laboratoria gebruiken tests waar twee gen targets gebruikt\ |
|
\ worden. Ct 50 = artificiële Ct waarde voor een negatief resultaat. Voor datasets\ |
|
\ zonder negatieve resultaten is mediaan met IQR weergegeven.\n\nImage /page/1/Figure/9\ |
|
\ description: De afbeelding toont een grafiek met kwalitatieve resultaten van\ |
|
\ een speekselpanel voor SARS CoV 2. De grafiek vergelijkt het percentage labs\ |
|
\ met een positief resultaat voor drie verschillende targets: Target 1 (n=21),\ |
|
\ Target 2 (n=10) en een positieve uitslag. De x as toont verschillende concentraties,\ |
|
\ variërend van Sen.SALIVA\\_CoV20 01 " |
|
- source_sentence: Wanneer kunnen we een gedetailleerd overzicht verwachten van de |
|
effectiviteit van de genomen maatregelen, inclusief de exacte resultaten en de |
|
verwachte voltooiingstijd? |
|
sentences: |
|
- "974272\n\n 5.1 .2e = s. 1.2e ( 5.1 .2e )[ 5.1 .2e @minvws.nl] To: 5.1 .2e 1.2\ |
|
\ 5.1 .2e ( 5.1 .2e ( 5.1 .2e) From: Sent: Tue 12/1/2020 9:20:20 AM Subject: RE:\ |
|
\ akkoord?: annotatie MCC Received: Tue 12/1/2020 9:20:21 AM\n\nOp kamer secretariaat\ |
|
\ ( ; kom zo even langs\n\nVan 5.1 .2e 5.1 .2e ( 5.1 .2e = 5.1 .2e @minvws.nl>\ |
|
\ Verzonden: dinsdag 1 december 2020 09:53 Aan: 5.1 .2e 1.2e ( 5.1 .2e ( 5.1 .2e)\ |
|
\ = 5.1 .2e @minvws.nl> Onderwerp: FW: akkoord?: annotatie MCC\n\n 5.1 .2e , ter\ |
|
\ info onderstaand.\n\nWaar zit jij vandaag ? Liep al 2 rondjes zonder succes\ |
|
\ \\*\n\nGroeten 5.1 .2e\n\nVerzonden met BlackBerry Work (www.blackberry.com)\n\ |
|
\nImage /page/0/Picture/8 description: De afbeelding is een screenshot van een\ |
|
\ e mailheader. De 'Van' regel toont de afzender met het e mailadres ` 5.1 [email protected]`.\ |
|
\ De 'Datum' regel geeft aan dat de e mail is verzonden op maandag 30 november\ |
|
\ 2020 om 11:07 PM. De 'Aan' regel bevat meerdere ontvangers met het e mailadres\ |
|
\ ` 5.1 [email protected]`, en de 'Kopie' regel bevat ook een ontvanger met het e\ |
|
\ mailadres ` 5.1 [email protected]`. Het onderwerp van de e mail is 'RE: akkoord?:\ |
|
\ annotatie MCC'.\n\n Hi 5.1 .2e\n\nDe opzet van risiconiveau zeer emstig in de\ |
|
\ herijkte routekaart is nieuw. Risiconiveau zeer ernstig betreft vanianten van\ |
|
\ een lockdown en we geven alleen mogelijke verdere beperkingen en geheltelijke\ |
|
\ sluitingen met de onderwerpen aan. Maar niet welke verdere beperkingen en dus\ |
|
\ ook geen uitzonderingen. Dit omdat het vastleggen van welke maatregelen je in\ |
|
\ een lockdown variant gaat treffen ondoenlijk is. De precieze maatregelen in\ |
|
\ een lockdown worden tzt geformuleerd in een aparte ministeriële regeling. Die\ |
|
\ gaat dan de besluitvomingsprocedure door.\n\nGroeten. 5.1 .2e\n\nVerzonden met\ |
|
\ BlackBerry Work (www.blackberry.com)\n\nImage /page/0/Picture/13 description:\ |
|
\ Dit is een screenshot van een e mailheader. De e mail is verzonden door ` 5.1\ |
|
\ .2e` op maandag 30 november 2020 om 10:52 PM. De e mail is gericht aan meerdere\ |
|
\ ontvangers, waaronder ` 5.1 .2e` en ` 5.1 [email protected]`. H" |
|
- 'En ik vraag het nog een keer – al moet ik het honderd keer vragen: wanneer krijgen |
|
wij een overzicht ten aanzien van al die maatregelen van hoeveel mensen er precies |
|
zijn en wat voor exacte resultaten zijn bereikt en wanneer de rest wordt bereikt?' |
|
- The y axis represents "IC (Inspectie van het Onderwijs) bezetting" (IC (Inspectie |
|
van het Onderwijs) occupancy), ranging from 0 to 2500. |
|
pipeline_tag: sentence-similarity |
|
library_name: sentence-transformers |
|
metrics: |
|
- cosine_accuracy@1 |
|
- cosine_accuracy@5 |
|
- cosine_precision@1 |
|
- cosine_precision@5 |
|
- cosine_recall@1 |
|
- cosine_recall@5 |
|
- cosine_ndcg@10 |
|
- cosine_mrr@10 |
|
- cosine_map@10 |
|
model-index: |
|
- name: SentenceTransformer |
|
results: |
|
- task: |
|
type: information-retrieval |
|
name: Information Retrieval |
|
dataset: |
|
name: Unknown |
|
type: unknown |
|
metrics: |
|
- type: cosine_accuracy@1 |
|
value: 0.8133333333333334 |
|
name: Cosine Accuracy@1 |
|
- type: cosine_accuracy@5 |
|
value: 0.92 |
|
name: Cosine Accuracy@5 |
|
- type: cosine_precision@1 |
|
value: 0.8133333333333334 |
|
name: Cosine Precision@1 |
|
- type: cosine_precision@5 |
|
value: 0.18399999999999997 |
|
name: Cosine Precision@5 |
|
- type: cosine_recall@1 |
|
value: 0.8133333333333334 |
|
name: Cosine Recall@1 |
|
- type: cosine_recall@5 |
|
value: 0.92 |
|
name: Cosine Recall@5 |
|
- type: cosine_ndcg@10 |
|
value: 0.8808263405745779 |
|
name: Cosine Ndcg@10 |
|
- type: cosine_mrr@10 |
|
value: 0.8623928571428572 |
|
name: Cosine Mrr@10 |
|
- type: cosine_map@10 |
|
value: 0.8623928571428572 |
|
name: Cosine Map@10 |
|
--- |
|
|
|
# SentenceTransformer |
|
|
|
This is a [sentence-transformers](https://www.SBERT.net) model trained. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more. |
|
|
|
## Model Details |
|
|
|
### Model Description |
|
- **Model Type:** Sentence Transformer |
|
<!-- - **Base model:** [Unknown](https://huggingface.co/unknown) --> |
|
- **Maximum Sequence Length:** 128 tokens |
|
- **Output Dimensionality:** 768 dimensions |
|
- **Similarity Function:** Cosine Similarity |
|
<!-- - **Training Dataset:** Unknown --> |
|
<!-- - **Language:** Unknown --> |
|
<!-- - **License:** Unknown --> |
|
|
|
### Model Sources |
|
|
|
- **Documentation:** [Sentence Transformers Documentation](https://sbert.net) |
|
- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers) |
|
- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers) |
|
|
|
### Full Model Architecture |
|
|
|
``` |
|
SentenceTransformer( |
|
(0): Transformer({'max_seq_length': 128, 'do_lower_case': False}) with Transformer model: RobertaModel |
|
(1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True}) |
|
) |
|
``` |
|
|
|
## Usage |
|
|
|
### Direct Usage (Sentence Transformers) |
|
|
|
First install the Sentence Transformers library: |
|
|
|
```bash |
|
pip install -U sentence-transformers |
|
``` |
|
|
|
Then you can load this model and run inference. |
|
```python |
|
from sentence_transformers import SentenceTransformer |
|
|
|
# Download from the 🤗 Hub |
|
model = SentenceTransformer("sentence_transformers_model_id") |
|
# Run inference |
|
sentences = [ |
|
'Wanneer kunnen we een gedetailleerd overzicht verwachten van de effectiviteit van de genomen maatregelen, inclusief de exacte resultaten en de verwachte voltooiingstijd?', |
|
'En ik vraag het nog een keer – al moet ik het honderd keer vragen: wanneer krijgen wij een overzicht ten aanzien van al die maatregelen van hoeveel mensen er precies zijn en wat voor exacte resultaten zijn bereikt en wanneer de rest wordt bereikt?', |
|
"974272\n\n 5.1 .2e = s. 1.2e ( 5.1 .2e )[ 5.1 .2e @minvws.nl] To: 5.1 .2e 1.2 5.1 .2e ( 5.1 .2e ( 5.1 .2e) From: Sent: Tue 12/1/2020 9:20:20 AM Subject: RE: akkoord?: annotatie MCC Received: Tue 12/1/2020 9:20:21 AM\n\nOp kamer secretariaat ( ; kom zo even langs\n\nVan 5.1 .2e 5.1 .2e ( 5.1 .2e = 5.1 .2e @minvws.nl> Verzonden: dinsdag 1 december 2020 09:53 Aan: 5.1 .2e 1.2e ( 5.1 .2e ( 5.1 .2e) = 5.1 .2e @minvws.nl> Onderwerp: FW: akkoord?: annotatie MCC\n\n 5.1 .2e , ter info onderstaand.\n\nWaar zit jij vandaag ? Liep al 2 rondjes zonder succes \\*\n\nGroeten 5.1 .2e\n\nVerzonden met BlackBerry Work (www.blackberry.com)\n\nImage /page/0/Picture/8 description: De afbeelding is een screenshot van een e mailheader. De 'Van' regel toont de afzender met het e mailadres ` 5.1 [email protected]`. De 'Datum' regel geeft aan dat de e mail is verzonden op maandag 30 november 2020 om 11:07 PM. De 'Aan' regel bevat meerdere ontvangers met het e mailadres ` 5.1 [email protected]`, en de 'Kopie' regel bevat ook een ontvanger met het e mailadres ` 5.1 [email protected]`. Het onderwerp van de e mail is 'RE: akkoord?: annotatie MCC'.\n\n Hi 5.1 .2e\n\nDe opzet van risiconiveau zeer emstig in de herijkte routekaart is nieuw. Risiconiveau zeer ernstig betreft vanianten van een lockdown en we geven alleen mogelijke verdere beperkingen en geheltelijke sluitingen met de onderwerpen aan. Maar niet welke verdere beperkingen en dus ook geen uitzonderingen. Dit omdat het vastleggen van welke maatregelen je in een lockdown variant gaat treffen ondoenlijk is. De precieze maatregelen in een lockdown worden tzt geformuleerd in een aparte ministeriële regeling. Die gaat dan de besluitvomingsprocedure door.\n\nGroeten. 5.1 .2e\n\nVerzonden met BlackBerry Work (www.blackberry.com)\n\nImage /page/0/Picture/13 description: Dit is een screenshot van een e mailheader. De e mail is verzonden door ` 5.1 .2e` op maandag 30 november 2020 om 10:52 PM. De e mail is gericht aan meerdere ontvangers, waaronder ` 5.1 .2e` en ` 5.1 [email protected]`. H", |
|
] |
|
embeddings = model.encode(sentences) |
|
print(embeddings.shape) |
|
# [3, 768] |
|
|
|
# Get the similarity scores for the embeddings |
|
similarities = model.similarity(embeddings, embeddings) |
|
print(similarities.shape) |
|
# [3, 3] |
|
``` |
|
|
|
<!-- |
|
### Direct Usage (Transformers) |
|
|
|
<details><summary>Click to see the direct usage in Transformers</summary> |
|
|
|
</details> |
|
--> |
|
|
|
<!-- |
|
### Downstream Usage (Sentence Transformers) |
|
|
|
You can finetune this model on your own dataset. |
|
|
|
<details><summary>Click to expand</summary> |
|
|
|
</details> |
|
--> |
|
|
|
<!-- |
|
### Out-of-Scope Use |
|
|
|
*List how the model may foreseeably be misused and address what users ought not to do with the model.* |
|
--> |
|
|
|
## Evaluation |
|
|
|
### Metrics |
|
|
|
#### Information Retrieval |
|
|
|
* Evaluated with [<code>InformationRetrievalEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.InformationRetrievalEvaluator) |
|
|
|
| Metric | Value | |
|
|:-------------------|:-----------| |
|
| cosine_accuracy@1 | 0.8133 | |
|
| cosine_accuracy@5 | 0.92 | |
|
| cosine_precision@1 | 0.8133 | |
|
| cosine_precision@5 | 0.184 | |
|
| cosine_recall@1 | 0.8133 | |
|
| cosine_recall@5 | 0.92 | |
|
| **cosine_ndcg@10** | **0.8808** | |
|
| cosine_mrr@10 | 0.8624 | |
|
| cosine_map@10 | 0.8624 | |
|
|
|
<!-- |
|
## Bias, Risks and Limitations |
|
|
|
*What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.* |
|
--> |
|
|
|
<!-- |
|
### Recommendations |
|
|
|
*What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.* |
|
--> |
|
|
|
## Training Details |
|
|
|
### Training Dataset |
|
|
|
#### Unnamed Dataset |
|
|
|
* Size: 2,700 training samples |
|
* Columns: <code>anchor</code> and <code>positive</code> |
|
* Approximate statistics based on the first 1000 samples: |
|
| | anchor | positive | |
|
|:--------|:-----------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------| |
|
| type | string | string | |
|
| details | <ul><li>min: 7 tokens</li><li>mean: 30.76 tokens</li><li>max: 128 tokens</li></ul> | <ul><li>min: 3 tokens</li><li>mean: 72.93 tokens</li><li>max: 128 tokens</li></ul> | |
|
* Samples: |
|
| anchor | positive | |
|
|:--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------| |
|
| <code>Hoe werd een geschil tussen twee reviewers over classificatie opgelost?</code> | <code>Disagreement between two reviewers on classification was resolved by a third reviewer.</code> | |
|
| <code>Wat is de rol van de persoon met het e-mailadres 5.1 [email protected] in de validatie van saliva samples voor het detecteren van antistoffen bij kinderen, en hoe verloopt de samenwerking met Sciensano labo in deze studie?</code> | <code>udie ter validatie van saliva sample in kinderen gebruik makend van Euroimmun sero assay<br><br> grote seroprevalence studie met herhaaldelijke staal afname voor bepalen van seroprevalentie en incidentie in lagere and middelbare schoolkinderen.<br><br> 5.1 .2e kan natuurlijk de agenda fine tunen of bijwerken.<br><br>De verantwoordelijke van het Sciensano labo en direct betrokken persoon in de validatie in volwassenen van saliva samples zal aanwezig zijn tijdens dit gesprek.<br><br>lk dank u zeer om voor uw zuiderburen tijd te maken.<br><br>Vriendelijke groeten,<br><br>Image /page/1/Figure/14 description: De afbeelding toont een grijze rechthoek met de tekst ` 5.1 .2e` erin. De tekst is waarschijnlijk een referentiecode of een identificatienummer. Het is mogelijk dat dit een aanduiding is voor persoonsgegevens, zoals gespecificeerd in de instructies. De context van de afbeelding is onduidelijk zonder verdere informatie.<br><br>Image /page/1/Figure/15 description: De afbeelding toont drie grijze balken van verschillende lengtes....</code> | |
|
| <code>Wat zijn de algemene kennis en bevindingen over hoe een tweede infectie verloopt bij individuen die eerder de ziekte hebben doorgemaakt?</code> | <code>| | |<br>| 71 | Wat is er op dit moment bekend over het verloop van een tweede infectie (dus bij een persoon die al eerder de ziekte heeft doorgemaakt en opnieuw besmet wordt)?</code> | |
|
* Loss: [<code>CachedMultipleNegativesRankingLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#cachedmultiplenegativesrankingloss) with these parameters: |
|
```json |
|
{ |
|
"scale": 20.0, |
|
"similarity_fct": "cos_sim" |
|
} |
|
``` |
|
|
|
### Training Hyperparameters |
|
#### Non-Default Hyperparameters |
|
|
|
- `eval_strategy`: epoch |
|
- `per_device_train_batch_size`: 128 |
|
- `learning_rate`: 2e-05 |
|
- `warmup_ratio`: 0.1 |
|
- `save_only_model`: True |
|
- `bf16`: True |
|
- `dataloader_drop_last`: True |
|
- `load_best_model_at_end`: True |
|
- `ddp_find_unused_parameters`: False |
|
|
|
#### All Hyperparameters |
|
<details><summary>Click to expand</summary> |
|
|
|
- `overwrite_output_dir`: False |
|
- `do_predict`: False |
|
- `eval_strategy`: epoch |
|
- `prediction_loss_only`: True |
|
- `per_device_train_batch_size`: 128 |
|
- `per_device_eval_batch_size`: 8 |
|
- `per_gpu_train_batch_size`: None |
|
- `per_gpu_eval_batch_size`: None |
|
- `gradient_accumulation_steps`: 1 |
|
- `eval_accumulation_steps`: None |
|
- `torch_empty_cache_steps`: None |
|
- `learning_rate`: 2e-05 |
|
- `weight_decay`: 0.0 |
|
- `adam_beta1`: 0.9 |
|
- `adam_beta2`: 0.999 |
|
- `adam_epsilon`: 1e-08 |
|
- `max_grad_norm`: 1.0 |
|
- `num_train_epochs`: 3 |
|
- `max_steps`: -1 |
|
- `lr_scheduler_type`: linear |
|
- `lr_scheduler_kwargs`: {} |
|
- `warmup_ratio`: 0.1 |
|
- `warmup_steps`: 0 |
|
- `log_level`: passive |
|
- `log_level_replica`: warning |
|
- `log_on_each_node`: True |
|
- `logging_nan_inf_filter`: True |
|
- `save_safetensors`: True |
|
- `save_on_each_node`: False |
|
- `save_only_model`: True |
|
- `restore_callback_states_from_checkpoint`: False |
|
- `no_cuda`: False |
|
- `use_cpu`: False |
|
- `use_mps_device`: False |
|
- `seed`: 42 |
|
- `data_seed`: None |
|
- `jit_mode_eval`: False |
|
- `use_ipex`: False |
|
- `bf16`: True |
|
- `fp16`: False |
|
- `fp16_opt_level`: O1 |
|
- `half_precision_backend`: auto |
|
- `bf16_full_eval`: False |
|
- `fp16_full_eval`: False |
|
- `tf32`: None |
|
- `local_rank`: 0 |
|
- `ddp_backend`: None |
|
- `tpu_num_cores`: None |
|
- `tpu_metrics_debug`: False |
|
- `debug`: [] |
|
- `dataloader_drop_last`: True |
|
- `dataloader_num_workers`: 0 |
|
- `dataloader_prefetch_factor`: None |
|
- `past_index`: -1 |
|
- `disable_tqdm`: False |
|
- `remove_unused_columns`: True |
|
- `label_names`: None |
|
- `load_best_model_at_end`: True |
|
- `ignore_data_skip`: False |
|
- `fsdp`: [] |
|
- `fsdp_min_num_params`: 0 |
|
- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False} |
|
- `fsdp_transformer_layer_cls_to_wrap`: None |
|
- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None} |
|
- `deepspeed`: None |
|
- `label_smoothing_factor`: 0.0 |
|
- `optim`: adamw_torch |
|
- `optim_args`: None |
|
- `adafactor`: False |
|
- `group_by_length`: False |
|
- `length_column_name`: length |
|
- `ddp_find_unused_parameters`: False |
|
- `ddp_bucket_cap_mb`: None |
|
- `ddp_broadcast_buffers`: False |
|
- `dataloader_pin_memory`: True |
|
- `dataloader_persistent_workers`: False |
|
- `skip_memory_metrics`: True |
|
- `use_legacy_prediction_loop`: False |
|
- `push_to_hub`: False |
|
- `resume_from_checkpoint`: None |
|
- `hub_model_id`: None |
|
- `hub_strategy`: every_save |
|
- `hub_private_repo`: None |
|
- `hub_always_push`: False |
|
- `gradient_checkpointing`: False |
|
- `gradient_checkpointing_kwargs`: None |
|
- `include_inputs_for_metrics`: False |
|
- `include_for_metrics`: [] |
|
- `eval_do_concat_batches`: True |
|
- `fp16_backend`: auto |
|
- `push_to_hub_model_id`: None |
|
- `push_to_hub_organization`: None |
|
- `mp_parameters`: |
|
- `auto_find_batch_size`: False |
|
- `full_determinism`: False |
|
- `torchdynamo`: None |
|
- `ray_scope`: last |
|
- `ddp_timeout`: 1800 |
|
- `torch_compile`: False |
|
- `torch_compile_backend`: None |
|
- `torch_compile_mode`: None |
|
- `dispatch_batches`: None |
|
- `split_batches`: None |
|
- `include_tokens_per_second`: False |
|
- `include_num_input_tokens_seen`: False |
|
- `neftune_noise_alpha`: None |
|
- `optim_target_modules`: None |
|
- `batch_eval_metrics`: False |
|
- `eval_on_start`: False |
|
- `use_liger_kernel`: False |
|
- `eval_use_gather_object`: False |
|
- `average_tokens_across_devices`: False |
|
- `prompts`: None |
|
- `batch_sampler`: batch_sampler |
|
- `multi_dataset_batch_sampler`: proportional |
|
|
|
</details> |
|
|
|
### Training Logs |
|
| Epoch | Step | Training Loss | cosine_ndcg@10 | |
|
|:-----:|:----:|:-------------:|:--------------:| |
|
| None | 0 | - | 0.8224 | |
|
| 1.0 | 10 | 1.2493 | 0.8627 | |
|
| 2.0 | 20 | 0.8853 | 0.8760 | |
|
| 3.0 | 30 | 0.7618 | 0.8808 | |
|
|
|
|
|
### Framework Versions |
|
- Python: 3.10.12 |
|
- Sentence Transformers: 3.4.1 |
|
- Transformers: 4.49.0 |
|
- PyTorch: 2.5.1+cu124 |
|
- Accelerate: 1.4.0 |
|
- Datasets: 3.3.2 |
|
- Tokenizers: 0.21.0 |
|
|
|
## Citation |
|
|
|
### BibTeX |
|
|
|
#### Sentence Transformers |
|
```bibtex |
|
@inproceedings{reimers-2019-sentence-bert, |
|
title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks", |
|
author = "Reimers, Nils and Gurevych, Iryna", |
|
booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing", |
|
month = "11", |
|
year = "2019", |
|
publisher = "Association for Computational Linguistics", |
|
url = "https://arxiv.org/abs/1908.10084", |
|
} |
|
``` |
|
|
|
#### CachedMultipleNegativesRankingLoss |
|
```bibtex |
|
@misc{gao2021scaling, |
|
title={Scaling Deep Contrastive Learning Batch Size under Memory Limited Setup}, |
|
author={Luyu Gao and Yunyi Zhang and Jiawei Han and Jamie Callan}, |
|
year={2021}, |
|
eprint={2101.06983}, |
|
archivePrefix={arXiv}, |
|
primaryClass={cs.LG} |
|
} |
|
``` |
|
|
|
<!-- |
|
## Glossary |
|
|
|
*Clearly define terms in order to be accessible across audiences.* |
|
--> |
|
|
|
<!-- |
|
## Model Card Authors |
|
|
|
*Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.* |
|
--> |
|
|
|
<!-- |
|
## Model Card Contact |
|
|
|
*Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.* |
|
--> |
