Add BERTopic model

.gitattributes

@@ -33,3 +33,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 *.zip filter=lfs diff=lfs merge=lfs -text
 *.zst filter=lfs diff=lfs merge=lfs -text
 *tfevents* filter=lfs diff=lfs merge=lfs -text
+ctfidf_config.json filter=lfs diff=lfs merge=lfs -text

README.md

@@ -0,0 +1,97 @@
+
+---
+tags:
+- bertopic
+library_name: bertopic
+pipeline_tag: text-classification
+---
+
+# BERTopicTelegramAnalysis_small
+
+This is a [BERTopic](https://github.com/MaartenGr/BERTopic) model. 
+BERTopic is a flexible and modular topic modeling framework that allows for the generation of easily interpretable topics from large datasets. 
+
+## Usage 
+
+To use this model, please install BERTopic:
+
+```
+pip install -U bertopic
+```
+
+You can use the model as follows:
+
+```python
+from bertopic import BERTopic
+topic_model = BERTopic.load("kdot/BERTopicTelegramAnalysis_small")
+
+topic_model.get_topic_info()
+```
+
+## Topic overview
+
+* Number of topics: 30
+* Number of training documents: 201891
+
+<details>
+  <summary>Click here for an overview of all topics.</summary>
+  
+  | Topic ID | Topic Keywords | Topic Frequency | Label | 
+|----------|----------------|-----------------|-------| 
+| -1 | это - швейцарии - статус - день - пожалуйста | 58 | -1_это_швейцарии_статус_день | 
+| 0 | беженцев - швейцарии - пожалуйста - подскажите - україни | 110510 | 0_беженцев_швейцарии_пожалуйста_подскажите | 
+| 1 | страховка - страховку - врача - врач - врачу | 31528 | 1_страховка_страховку_врача_врач | 
+| 2 | паспорт - паспорта - письмо - пришло - статус | 12883 | 2_паспорт_паспорта_письмо_пришло | 
+| 3 | мови - языка - курсы - немецкого - англійської | 5190 | 3_мови_языка_курсы_немецкого | 
+| 4 | чат - это - война - людей - войны | 4949 | 4_чат_это_война_людей | 
+| 5 | квартиру - жилье - квартиры - аренды - жилья | 4580 | 5_квартиру_жилье_квартиры_аренды | 
+| 6 | билет - билеты - поезд - sbb - квиток | 3507 | 6_билет_билеты_поезд_sbb | 
+| 7 | велосипед - размер - обувь - розмір - одежда | 2951 | 7_велосипед_размер_обувь_розмір | 
+| 8 | лагере - лагерь - лагеря - вокзале - лагерях | 2904 | 8_лагере_лагерь_лагеря_вокзале | 
+| 9 | животных - собаку - собак - собака - собаки | 2891 | 9_животных_собаку_собак_собака | 
+| 10 | info moving - moving - кік - налаштуваннях чату - кікнуто | 2821 | 10_info moving_moving_кік_налаштуваннях чату | 
+| 11 | соц - радио - налог - тв - зп | 2659 | 11_соц_радио_налог_тв | 
+| 12 | волос - парикмахер - стрижки - волосся - фотограф | 1980 | 12_волос_парикмахер_стрижки_волосся | 
+| 13 | мусора - мусор - кг - сміття - творог | 1716 | 13_мусора_мусор_кг_сміття | 
+| 14 | програмування - школу - життєвий капітал - капітал - життєвий | 1625 | 14_програмування_школу_життєвий капітал_капітал | 
+| 15 | йога - занятия - инструктор - йоги - занятие | 1329 | 15_йога_занятия_инструктор_йоги | 
+| 16 | музей - праздник - зоопарк - торт - музеи | 1224 | 16_музей_праздник_зоопарк_торт | 
+| 17 | арт - ukraine_reborn - психотерапевт - організовує_ukraine_reborn - montbrillant 52 | 1021 | 17_арт_ukraine_reborn_психотерапевт_організовує_ukraine_reborn | 
+| 18 | телефон - ноутбук - iphone - интернет - ноутбуков | 1016 | 18_телефон_ноутбук_iphone_интернет | 
+| 19 | роботи - резюме - вимоги - ресторан - знання | 1004 | 19_роботи_резюме_вимоги_ресторан | 
+| 20 | развод - дети - детей - родители - розлучення | 950 | 20_развод_дети_детей_родители | 
+| 21 | бассейн - горы - озера - пляж - озеро | 646 | 21_бассейн_горы_озера_пляж | 
+| 22 | юриста - адвокат - адвоката - юрист - юристов | 597 | 22_юриста_адвокат_адвоката_юрист | 
+| 23 | работодатель - работу - разрешение - ес - разрешение работу | 484 | 23_работодатель_работу_разрешение_ес | 
+| 24 | грибы - грибов - сигарет - сигареты - грибів | 359 | 24_грибы_грибов_сигарет_сигареты | 
+| 25 | инвалидности - инвалидность - инвалидностью - інвалідністю - и��валидов | 209 | 25_инвалидности_инвалидность_инвалидностью_інвалідністю | 
+| 26 | sem - сайте sem - sema - sem адрес - статуса sem | 131 | 26_sem_сайте sem_sema_sem адрес | 
+| 27 | господа - бог - господь - псалом - ибо | 104 | 27_господа_бог_господь_псалом | 
+| 28 | 60 сек - 1inch - 1inch network - сек - дякуємо 60 | 65 | 28_60 сек_1inch_1inch network_сек |
+  
+</details>
+
+## Training hyperparameters
+
+* calculate_probabilities: False
+* language: multilingual
+* low_memory: False
+* min_topic_size: 10
+* n_gram_range: (1, 1)
+* nr_topics: 30
+* seed_topic_list: None
+* top_n_words: 10
+* verbose: True
+
+## Framework versions
+
+* Numpy: 1.24.4
+* HDBSCAN: 0.8.33
+* UMAP: 0.5.4
+* Pandas: 2.0.3
+* Scikit-Learn: 1.0.2
+* Sentence-transformers: 2.2.2
+* Transformers: 4.33.2
+* Numba: 0.58.0
+* Plotly: 5.17.0
+* Python: 3.8.10

config.json

@@ -0,0 +1,15 @@
+{
+  "calculate_probabilities": false,
+  "language": "multilingual",
+  "low_memory": false,
+  "min_topic_size": 10,
+  "n_gram_range": [
+    1,
+    1
+  ],
+  "nr_topics": 30,
+  "seed_topic_list": null,
+  "top_n_words": 10,
+  "verbose": true,
+  "embedding_model": "sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2"
+}

ctfidf.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:28494528ce5565d2e4b958339a10b8093d1903d142c8787018da0850ce9d5593
+size 69236348

ctfidf_config.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:da1134e0db969d2cc83777514d231c859c7ed46f68aacc43b0c1b08876440c57
+size 296521029

topic_embeddings.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:0459f0e5404f72b965d1244077a0d601183470d7f247bbe1aee8528e905bbf4e
+size 46168