offensive-ai-compilation.md

# Компиляция атакующего ИИ

## Основные рекомендации
Существуют некоторые конкретные ключевые слова, которые запускают определенные действия из GPTS. Вот некоторые из них, чтобы максимально эффективно использовать их:
* «Извлечь»: используется для извлечения некоторой информации, имеющейся в знаниях.
* «На основе ваших знаний»: используется для извлечения некоторой информации, имеющейся в знаниях.
* «Генерировать»: используется для запуска интерпретатора кода.
Тщательно подобранный список полезных ресурсов, посвященных наступательному ИИ.

```markdown
## 📁 Содержание 📁
- [🚫 Злоупотребление 🚫](#-злоупотребление-)
  - [🧠 Состязательное машинное обучение 🧠](#-adversarial-machine-learning-)
    - [⚡ Атаки ⚡](#-атаки-)
      - [🔒 Извлечение 🔒](#-извлечение-)
        - [⚠️ Ограничения ⚠️](#️-ограничения-️)
        - [🛡️ Защитные действия 🛡️](#️-защитные-действия-️)
        - [🔗 Полезные ссылки 🔗](#-полезные-ссылки-)
      - [⬅️ Инверсия (или вывод) ⬅️](#️-инверсия-или-вывод-️)
        - [🛡️ Защитные действия 🛡️](#️-защитные-действия-️-1)
        - [🔗 Полезные ссылки 🔗](#-полезные-ссылки--1)
      - [💉 Отравление 💉](#-отравление-)
        - [🔓 Бэкдоры 🔓](#-бэкдоры-)
        - [🛡️ Защитные действия 🛡️](#️-защитные-действия-️-2)
        - [🔗 Полезные ссылки 🔗](#-полезные-ссылки--2)
      - [🏃‍♂️ Уклонение 🏃‍♂️](#️-уклонение-️)
        - [🛡️ Защитные действия 🛡️](#️-защитные-действия-️-3)
        - [🔗 Полезные ссылки 🔗](#-полезные-ссылки--3)
    - [🛠️ Инструменты 🛠️](#️-инструменты-️)
        - [ИСКУССТВО](#искусство)
        - [Cleverhans](#cleverhans)
- [🔧 Использовать 🔧](#-использовать-)
  - [🕵️‍♂️ Пентестинг 🕵️‍♂️](#️️-пентестинг-️️)
  - [🦠 Вредоносное ПО 🦠](#-вредоносное ПО-)
  - [🗺️ OSINT 🗺️](#️osint-️)
  - [📧 Фишинг 📧](#фишинг-)
  - [👨‍🎤 Генеративный ИИ 👨‍🎤](#-generative-ai-)
    - [🔊 Аудио 🔊](#-audio-)
      - [🛠️ Инструменты 🛠️](#️-инструменты-️-1)
      - [💡 Приложения 💡](#-приложения-)
      - [🔎 Обнаружение 🔎](#-обнаружение-)
    - [📷 Изображение 📷](#-изображение-)
      - [🛠️ Инструменты 🛠️](#️-инструменты-️-2)
      - [💡 Приложения 💡](#-приложения--1)
      - [🔎 Обнаружение 🔎](#-обнаружение--1)
    - [🎥 Видео 🎥](#-видео-)
      - [🛠️ Инструменты 🛠️](#️-инструменты-️-3)
      - [💡 Приложения 💡](#-приложения--2)
      - [🔎 Обнаружение 🔎](#-обнаружение--2)
    - [📄 Текст 📄](#-текст-)
      - [🛠️ Инструменты 🛠️](#️-инструменты-️-4)
      - [🔎 Обнаружение 🔎](#-обнаружение--3)
      - [💡 Приложения 💡](#-приложения--3)
  - [📚 Разное 📚](#-разное-)
- [📊 Опросы 📊](#-опросы-)
- [🗣 Участники 🗣](#-участники-)
- [©️ Лицензия ©️](#️-лицензия-️)
```
## 🚫 Злоупотребление 🚫

Использование уязвимостей моделей ИИ.

### 🧠 Состязательное машинное обучение 🧠

Состязательное машинное обучение отвечает за оценку их слабых сторон и предоставление контрмер.

#### ⚡ Атаки ⚡

Он организован в четыре типа атак: извлечение, инверсия, отравление и уклонение.

![Атаки состязательного машинного обучения](https://github.com/jiep/offensive-ai-compilation/raw/main/assets/images/attacks.png)

##### 🔒 Извлечение 🔒

Он пытается украсть параметры и гиперпараметры модели, делая запросы, которые максимизируют извлечение информации.

![Атака извлечения](https://github.com/jiep/offensive-ai-compilation/raw/main/assets/images/extraction.png)

В зависимости от знания модели противника могут быть выполнены атаки по принципу «белого ящика» и «черного ящика».

В простейшем случае «белого ящика» (когда злоумышленник имеет полное знание модели, например, сигмоидальной функции) можно создать систему линейных уравнений, которую можно легко решить.

В общем случае, когда недостаточно знаний о модели, используется замещающая модель. Эта модель обучается с помощью запросов, сделанных к исходной модели, чтобы имитировать ту же функциональность, что и исходная.

![Атаки извлечения методом белого и черного ящика](https://github.com/jiep/offensive-ai-compilation/raw/main/assets/images/extraction-white-black-box.png)

###### ⚠️ Ограничения ⚠️

  * Обучение замещающей модели во многих случаях эквивалентно обучению модели с нуля.

  * Очень интенсивные вычисления.

  * У злоумышленника есть ограничения на количество запросов до его обнаружения.

###### 🛡️ Защитные действия 🛡️

  * Округление выходных значений.

  * Использование [дифференциальной конфиденциальности](https://en.wikipedia.org/wiki/Differential_privacy).

  * Использование [ансамблей](https://en.wikipedia.org/wiki/Ensemble_learning).

  * Использование специфических защит
    * [Конкретные архитектуры](https://arxiv.org/abs/1711.07221)
    * [ПРАДА](https://arxiv.org/abs/1805.02628)
    * [Адаптивная дезинформация](https://arxiv.org/abs/1911.07100)
    * ...

###### 🔗 Полезные ссылки 🔗

  * [Кража моделей машинного обучения с помощью API прогнозирования](https://arxiv.org/abs/1609.02943)
  * [Кража гиперпараметров в машинном обучении](https://arxiv.org/abs/1802.05351)
  * [Поддельные сети: кража функциональности моделей черного ящика](https://arxiv.org/abs/1812.02766)
  * [Предупреждение об извлечении модели в парадигме MLaaS](https://arxiv.org/abs/1711.07221)
  * [Копия CNN: Кража знаний путем убеждения признания с помощью случайных немаркированных данных](https://arxiv.org/abs/1806.05476)
  * [Отравление прогнозов: к защите от атак с кражей моделей DNN](https://arxiv.org/abs/1906.10908)
  * [Кража нейронных сетей с помощью временных побочных каналов](https://arxiv.org/abs/1812.11720)
  * [Атаки с кражей моделей против нейронных сетей с индуктивными графами](https://arxiv.org/abs/2112.08331)
  * [Высокая точность и извлечение нейронных сетей](https://arxiv.org/abs/1909.01838)
  * [Отравление обучающих наборов данных в масштабе Интернета — это практично](https://arxiv.org/abs/2302.10149)
  * [Криптоаналитическое извлечение моделей нейронных сетей с полиномиальным временем](https://eprint.iacr.org/2023/1526)
  * [Атаки отравления, специфичные для подсказок, на генеративные модели преобразования текста в изображение](https://arxiv.org/abs/2310.13828)
  * [Awesome Data Poisoning And Backdoor Attacks](https://github.com/penghui-yang/awesome-data-poisoning-and-backdoor-attacks): тщательно подобранный список статей и ресурсов, связанных с отравлением данных, атаками через бэкдоры и защитой от них. [![stars](https://badgen.net/github/stars/penghui-yang/awesome-data-poisoning-and-backdoor-attacks)](https://github.com/penghui-yang/awesome-data-poisoning-and-backdoor-attacks)
  * [BackdoorBox](https://github.com/THUYimingLi/BackdoorBox): набор инструментов Python с открытым исходным кодом для бэкдор-атак и защиты. [![stars](https://badgen.net/github/stars/THUYimingLi/BackdoorBox)](https://github.com/THUYimingLi/BackdoorBox)
  * [Кража части модели производственного языка](https://arxiv.org/abs/2403.06634)

##### ⬅️ Инверсия (или вывод) ⬅️

Они предназначены для изменения направления информационного потока модели машинного обучения.

![Атака вывода](https://github.com/jiep/offensive-ai-compilation/raw/main/assets/images/inversion.png)

Они позволяют злоумышленнику получить сведения о модели, которые явно не предназначались для распространения.

Они позволяют узнать обучающие данные или информацию как статистические свойства модели.

Возможны три типа:

  * **Атака на основе вывода о принадлежности (MIA)**: злоумышленник пытается определить, использовался ли образец в рамках обучения.

  * **Атака на основе вывода свойств (PIA)**: цель злоумышленника — извлечь статистические свойства, которые не были явно закодированы как признаки на этапе обучения.

  * **Реконструкция**: Злоумышленник пытается реконструировать один или несколько образцов из обучающего набора и/или их соответствующие метки. Также называется инверсией.


###### 🛡️ Защитные действия 🛡️

  * Использование передовой криптографии. Контрмеры включают [дифференциальную конфиденциальность](https://en.wikipedia.org/wiki/Differential_privacy), [гомоморфную криптографию](https://en.wikipedia.org/wiki/Homomorphic_encryption) и [безопасные многосторонние вычисления](https://en.wikipedia.org/wiki/Secure_multi-party_computation).

  * Использование методов регуляризации, таких как [Dropout](https://en.wikipedia.org/wiki/Dilution_(neural_networks)) из-за связи между переобучением и конфиденциальностью.

  * [Сжатие модели](https://medium.com/gsi-technology/an-overview-of-model-compression-techniques-for-deep-learning-in-space-3fd8d4ce84e5) было предложено в качестве защиты от атак реконструкции.

###### 🔗 Полезные ссылки 🔗

  * [Атаки на модели машинного обучения с выводом членства](https://arxiv.org/abs/1610.05820)
  * [Атаки с использованием инверсии моделей, использующие информацию о доверии, и основные контрмеры](https://dl.acm.org/doi/10.1145/2810103.2813677)
  * [Модели машинного обучения, которые слишком много помнят](https://arxiv.org/abs/1709.07886)
  * [ML-Leaks: атаки и защита от вывода членства, независимого от модели и данных, на моделях машинного обучения](https://arxiv.org/abs/1806.01246)
  * [Глубокие модели в GAN: утечка информации из совместного глубокого обучения](https://arxiv.org/abs/1702.07464)
  * [LOGAN: Атаки на вывод о членстве против генеративных моделей](https://petsymposium.org/popets/2019/popets-2019-0008.php)
  * [Переобучение, надежность и вредоносные алгоритмы: исследование потенциальных причин риска конфиденциальности в машинном обучении](https://content.iospress.com/articles/journal-of-computer-security/jcs191362)
  * [Комплексный анализ конфиденциальности глубокого обучения: автономное и федеративное обучение в условиях пассивных и активных атак на основе вывода методом белого ящика](https://arxiv.org/abs/1812.00910)
  * [Атаки на основе выводов против совместного обучения](https://arxiv.org/abs/1805.04049)
  * [The Secret Sharer: Оценка и тестирование непреднамеренного запоминания в нейронных сетях](https://arxiv.org/abs/1802.08232)
  * [На пути к науке безопасности и конфиденциальности в машинном обучении](https://arxiv.org/abs/1611.03814)
  * [MemGuard: Защита от атак на вывод членства в черном ящике с помощью состязательных примеров](https://arxiv.org/abs/1909.10594)
  * [Извлечение обучающих данных из больших языковых моделей](https://arxiv.org/abs/2012.07805)
  * [Атаки на вывод свойств полностью связанных нейронных сетей с использованием инвариантных к перестановкам представлений](https://dl.acm.org/doi/10.1145/3243734.3243834)
  * [Извлечение обучающих данных из моделей диффузии](https://arxiv.org/abs/2301.13188)
  * [Реконструкция изображения высокого разрешения с использованием моделей скрытой диффузии из активности человеческого мозга](https://www.biorxiv.org/content/10.1101/2022.11.18.517004v1)
  * [Кража и обход классификаторов вредоносных программ и антивирусов при низком уровне ложных срабатываний](https://www.sciencedirect.com/science/article/abs/pii/S0167404823001025)
  * [Атаки с реалистичным представлением отпечатков пальцев, основанные на состязательном подходе](https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=10295513)
  * [Активно-состязательные тесты](https://github.com/google-research/active-adversarial-tests): Повышение уверенности в оценках состязательной надежности. [![stars](https://badgen.net/github/stars/google-research/active-adversarial-tests)](https://github.com/google-research/active-adversarial-tests)
  * [Статус джейлбрейка GPT](https://github.com/tg12/gpt_jailbreak_status): Обновления о статусе джейлбрейка языковой модели OpenAI GPT. [![stars](https://badgen.net/github/stars/tg12/gpt_jailbreak_status)](https://github.com/tg12/gpt_jailbreak_status)

##### 💉 Отравление 💉

Их цель — испортить обучающий набор, заставив модель машинного обучения снизить свою точность.

![Отравляющая атака](https://github.com/jiep/offensive-ai-compilation/raw/main/assets/images/poisoning.png)

Эту атаку трудно обнаружить при ее реализации на обучающих данных, поскольку она может распространяться между различными моделями, использующими одни и те же обучающие данные.

Противник стремится уничтожить доступность модели, изменяя границу принятия решений и, как следствие, производя неверные прогнозы или создавая бэкдор в модели. В последнем случае модель ведет себя правильно (возвращая желаемые прогнозы) в большинстве случаев, за исключением определенных входных данных, специально созданных противником, которые производят нежелательные результаты. Противник может манипулировать результатами прогнозов и запускать будущие атаки.

###### 🔓 Бэкдоры 🔓

[BadNets](https://arxiv.org/abs/1708.06733) — это простейший тип бэкдора в модели машинного обучения. Более того, BadNets могут сохраняться в модели, даже если они снова переобучаются для другой задачи, чем исходная модель (перенос обучения).

Важно отметить, что **публичные предварительно обученные модели могут содержать бэкдоры**.

###### 🛡️ Защитные действия 🛡️

  * Обнаружение зараженных данных, а также использование средств их очистки.

  * Надежные методы обучения.

  * Специфические средства защиты.
    * [Neural Cleanse: выявление и устранение бэкдор-атак в нейронных сетях](https://ieeexplore.ieee.org/document/8835365)
    * [STRIP: Защита от троянских атак на глубокие нейронные сети](https://arxiv.org/abs/1902.06531)
    * [Обнаружение атак через бэкдор на глубокие нейронные сети с помощью кластеризации активации](https://arxiv.org/abs/1811.03728)
    * [ABS: Сканирование нейронных сетей на предмет обходных путей с помощью искусственной стимуляции мозга](https://dl.acm.org/doi/10.1145/3319535.3363216)
    * [DeepInspect: фреймворк для обнаружения и устранения троянских программ в стиле «черный ящик» для глубоких нейронных сетей](https://www.ijcai.org/proceedings/2019/647)
    * [Защита нейронных бэкдоров с помощью генеративного моделирования распределения](https://arxiv.org/abs/1910.04749)
    * [Комплексный обзор атак через бэкдоры и мер защиты от них в системах распознавания лиц](https://ieeexplore.ieee.org/document/10480615)
    * [DataElixir: очистка отравленных наборов данных для предотвращения атак через бэкдор с помощью моделей диффузии](https://arxiv.org/abs/2312.11057)

###### 🔗 Полезные ссылки 🔗

  * [Атаки отравления против опорных векторных машин](https://arxiv.org/abs/1206.6389)
  * [Целевые атаки через бэкдоры на системы глубокого обучения с использованием отравления данных](https://arxiv.org/abs/1712.05526)
  * [Троянская атака на нейронные сети](https://www.semanticscholar.org/paper/Trojaning-Attack-on-Neural-Networks-Liu-Ma/08f7ac64b420210aa46fcbbdb0f206215f2e0644)
  * [Тонкая обрезка: защита от атак с использованием бэкдоров на глубокие нейронные сети](https://arxiv.org/abs/1805.12185)
  * [Ядовитые лягушки! Целевые атаки с использованием чистых отравляющих веществ на нейронные сети](https://arxiv.org/abs/1804.00792)
  * [Спектральные сигнатуры в атаках через бэкдор](https://arxiv.org/abs/1811.00636)
  * [Скрытые атаки с использованием бэкдора на глубокие нейронные сети](https://dl.acm.org/doi/10.1145/3319535.3354209)
  * [Regula Sub-rosa: Скрытые атаки с использованием бэкдора на глубокие нейронные сети](https://arxiv.org/abs/1905.10447)
  * [Атаки через скрытые триггеры](https://arxiv.org/abs/1910.00033)
  * [Переносимые атаки отравления чистой меткой на глубокие нейронные сети](https://arxiv.org/abs/1905.05897)
  * [TABOR: Высокоточный подход к проверке и восстановлению троянских бэкдоров в системах ИИ](https://arxiv.org/abs/1908.01763)
  * [К отравлению алгоритмов глубокого обучения с помощью оптимизации обратного градиента](https://arxiv.org/abs/1708.08689)
  * [Когда машинное обучение терпит неудачу? Обобщенная переносимость для атак уклонения и отравления](https://arxiv.org/abs/1803.06975)
  * [Сертифицированные средства защиты от атак отравления данных](https://arxiv.org/abs/1706.03691)
  * [Атака с динамическим бэкдором, учитывающая ввод данных](https://arxiv.org/abs/2010.08138)
  * [Как создать бэкдор для федеративного обучения](https://arxiv.org/abs/1807.00459)
  * [Внедрение необнаруживаемых бэкдоров в модели машинного обучения](https://arxiv.org/abs/2204.06974)
  * [Обмануть ИИ!](https://fooltheai.mybluemix.net/): Хакеры могут использовать бэкдоры, чтобы отравить обучающие данные и заставить модель ИИ неправильно классифицировать изображения. Узнайте, как исследователи IBM могут определить, когда данные были отравлены, а затем угадайте, какие бэкдоры были скрыты в этих наборах данных. Сможете ли вы угадать бэкдор?

##### 🏃‍♂️ Уклонение 🏃‍♂️

Злоумышленник добавляет небольшое возмущение (в виде шума) на вход модели машинного обучения, чтобы заставить ее классифицировать неправильно (пример злоумышленника).

![Атака уклонения](https://github.com/jiep/offensive-ai-compilation/raw/main/assets/images/evasion.png)

Они похожи на атаки отравления, но их главное отличие состоит в том, что атаки уклонения пытаются использовать слабости модели на этапе вывода.

Цель противника — сделать так, чтобы примеры противника были незаметны для человека.

В зависимости от желаемого противником результата могут быть выполнены два типа атаки:

  * **Целенаправленный**: цель злоумышленника — получить прогноз по своему выбору.

    ![Целевая атака](https://github.com/jiep/offensive-ai-compilation/raw/main/assets/images/targeted.png)

  * **Нецелевой**: злоумышленник намерен добиться неправильной классификации.

    ![Нецелевая атака](https://github.com/jiep/offensive-ai-compilation/raw/main/assets/images/untargeted.png)

Наиболее распространенными атаками являются **атаки белого ящика**:

  * [L-BFGS](https://arxiv.org/abs/1312.6199)
  * [FGSM](https://arxiv.org/abs/1412.6572)
  * [БИМ](https://arxiv.org/abs/1607.02533)
  * [JSMA](https://arxiv.org/abs/1511.07528)
  * [Карлини и Вагнер (C&W)](https://arxiv.org/abs/1608.04644)
  * [NewtonFool](https://andrewxiwu.github.io/public/papers/2017/JWJ17-objective-metrics-and-gradient-descent-based-algorithms-for-adversarial-examples-in-machine-learning.pdf)
  * [EAD](https://arxiv.org/abs/1709.04114)
  * [УАП](https://arxiv.org/abs/1610.08401)

###### 🛡️ Защитные действия 🛡️

  * Состязательное обучение, которое заключается в создании состязательных примеров во время обучения, чтобы позволить модели изучить особенности состязательных примеров, что делает модель более устойчивой к этому типу атак.

  * Преобразования входных данных.

  * Градиентное маскирование/регуляризация. [Не очень эффективно](https://arxiv.org/abs/1802.00420).

  * Слабая защита.

  * [Защита от быстрых инъекций](https://github.com/tldrsec/prompt-injection-defenses): Все практические и предлагаемые защиты от быстрых инъекций. [![stars](https://badgen.net/github/stars/tldrsec/prompt-injection-defenses)](https://github.com/tldrsec/prompt-injection-defenses)

  * [Lakera PINT Benchmark](https://github.com/lakeraai/pint-benchmark): Тест Prompt Injection Test (PINT) обеспечивает нейтральный способ оценки производительности системы обнаружения быстрых инъекций, такой как Lakera Guard, не полагаясь на известные общедоступные наборы данных, которые эти инструменты могут использовать для оптимизации производительности оценки. [![stars](https://badgen.net/github/stars/lakeraai/pint-benchmark)](https://github.com/lakeraai/pint-benchmark)

  * [Devil's Inference](https://github.com/AI-Voodoo/Devil_Inference): Метод состязательной оценки модели Phi-3 Instruct путем наблюдения за распределением внимания по ее головам при воздействии определенных входных данных. Этот подход побуждает модель принять «дьявольский образ мышления», что позволяет ей генерировать выходные данные агрессивного характера. [![stars](https://badgen.net/github/stars/AI-Voodoo/Devil_Inference)](https://github.com/AI-Voodoo/Devil_Inference)

###### 🔗 Полезные ссылки 🔗

  * [Практические атаки черного ящика против машинного обучения](https://arxiv.org/abs/1602.02697)
  * [Ограничения глубокого обучения в состязательных условиях](https://arxiv.org/abs/1511.07528)
  * [К оценке надежности нейронных сетей](https://arxiv.org/abs/1608.04644)
  * [Дистилляция как защита от враждебных возмущений против глубоких нейронных сетей](https://arxiv.org/abs/1511.04508)
  * [Примеры противостояния в физическом мире](https://arxiv.org/abs/1607.02533)
  * [Состязательная тренировка ансамбля: атаки и защиты](https://arxiv.org/abs/1705.07204)
  * [На пути к моделям глубокого обучения, устойчивым к состязательным атакам](https://arxiv.org/abs/1706.06083)
  * [Интересные свойства нейронных сетей](https://arxiv.org/abs/1312.6199)
  * [Объяснение и использование состязательных примеров](https://arxiv.org/abs/1412.6572)
  * [Изучение переносимых состязательных примеров и атак черного ящика](https://arxiv.org/abs/1611.02770)
  * [Масштабное состязательное машинное обучение](https://arxiv.org/abs/1611.01236)
  * [Атаки с использованием черного ящика с ограниченными запросами и информацией](https://arxiv.org/abs/1804.08598)
  * [Сжатие признаков: обнаружение состязательных примеров в глубоких нейронных сетях](https://arxiv.org/abs/1704.01155)
  * [Атаки состязательности на основе принятия решений: надежные атаки против моделей машинного обучения типа «черный ящик»](https://arxiv.org/abs/1712.04248)
  * [Усиление состязательных атак с помощью импульса](https://openaccess.thecvf.com/content_cvpr_2018/papers/Dong_Boosting_Adversarial_Attacks_CVPR_2018_paper.pdf)
  * [Пространство переносимых состязательных примеров](https://arxiv.org/abs/1704.03453)
  * [Противодействие враждебным изображениям с использованием входных преобразований](https://arxiv.org/abs/1711.00117)
  * [Defense-GAN: Защита классификаторов от состязательных атак с использованием генеративных моделей](https://arxiv.org/abs/1805.06605)
  * [Синтез надежных примеров состязательности](https://arxiv.org/abs/1707.07397)
  * [Смягчение состязательных эффектов посредством рандомизации](https://arxiv.org/abs/1711.01991)
  * [Об обнаружении враждебных возмущений](https://arxiv.org/abs/1702.04267)
  * [Состязательный патч](https://arxiv.org/abs/1712.09665)
  * [PixelDefend: использование генеративных моделей для понимания и защиты от враждебных примеров](https://arxiv.org/abs/1710.10766)
  * [Атака одним пикселем для обмана глубоких нейронных сетей](https://arxiv.org/abs/1710.08864)
  * [Эффективная защита от атак противника](https://arxiv.org/abs/1707.06728)
  * [Надежные атаки физического мира на визуальную классификацию глубокого обучения](https://ieeexplore.ieee.org/document/8578273)
  * [Состязательные возмущения против глубоких нейронных сетей для классификации вредоносных программ](https://arxiv.org/abs/1606.04435)
  * [3D-состязательные атаки за пределами облака точек](https://arxiv.org/abs/2104.12146)
  * [Состязательные возмущения обманывают детекторы дипфейков](https://arxiv.org/abs/2003.10596)
  * [Состязательные дипфейки: оценка уязвимости детекторов дипфейков к состязательным примерам](https://arxiv.org/abs/2002.12749)
  * [Обзор уязвимостей систем с голосовым управлением](https://arxiv.org/abs/1803.09156)
  * [FastWordBug: быстрый метод создания состязательного текста против приложений NLP](https://arxiv.org/abs/2002.00760)
  * [Призрак ADAS: защита современных систем помощи водителю от мгновенных фантомных атак](https://www.nassiben.com/phantoms)
  * [llm-attacks](https://github.com/llm-attacks/llm-attacks): Универсальные и переносимые атаки на выровненные языковые модели. [![stars](https://badgen.net/github/stars/llm-attacks/llm-attacks)](https://github.com/llm-attacks/llm-attacks)
  * [Атаки на модели ИИ: мгновенная инъекция против отравления цепочки поставок](https://blog.mithrilsecurity.io/attacks-on-ai-models-prompt-injection-vs-supply-chain-poisoning/)
  * [Атака методом внедрения на интегрированные приложения LLM](https://arxiv.org/pdf/2306.05499.pdf)
  * [garak](https://github.com/leondz/garak): сканер уязвимостей LLM. [![stars](https://badgen.net/github/stars/leondz/garak)](https://github.com/leondz/garak)
  * [Простые состязательные преобразования в PyTorch](https://davidstutz.de/simple-adversarial-transformations-in-pytorch/)
  * [Плагины ChatGPT: кража данных через изображения и подделка запросов кросс-плагинов](https://embracethered.com/blog/posts/2023/chatgpt-webpilot-data-exfil-via-markdown-injection/)
  * [Перехват изображений: состязательные изображения могут контролировать генеративные модели во время выполнения](https://arxiv.org/abs/2309.00236)
  * [Множественные атаки: множество изображений + одна и та же состязательная атака → множество целевых меток](https://arxiv.org/abs/2308.03792)
  * [АКТИВНО: На пути к высокопереносимому трехмерному физическому камуфляжу для универсального и надежного уклонения от транспортных средств](https://arxiv.org/abs/2308.07009)
  * [LLM Red Teaming GPTS: утечка подсказок, утечка API, утечка документов](https://adversa.ai/blog/llm-red-teaming-gpts-prompt-leaking-api-leaking-documents-leaking/)
  * [Примеры состязательных действий, создаваемых человеком](https://arxiv.org/abs/2310.06474)
  * [Многоязычные проблемы джейлбрейка в больших языковых моделях](https://arxiv.org/abs/2310.06474)
  * [Неправильное использование инструментов в больших языковых моделях с примерами визуального состязания](https://arxiv.org/abs/2310.03185)
  * [AutoDAN: Интерпретируемые градиентные состязательные атаки на большие языковые модели](https://arxiv.org/abs/2310.15140)
  * [Мультимодальная инъекция](https://github.com/ebagdasa/multimodal_injection): (Ab)использование изображений и звуков для косвенной инъекции инструкций в многомодальных LLM. [![stars](https://badgen.net/github/stars/ebagdasa/multimodal_injection)](https://github.com/ebagdasa/multimodal_injection)
  * [JailbreakingLLMs](https://github.com/patrickrchao/JailbreakingLLMs): Взлом Black Box больших языковых моделей в двадцати запросах. [![stars](https://badgen.net/github/stars/patrickrchao/JailbreakingLLMs)](https://github.com/patrickrchao/JailbreakingLLMs)
  * [Дерево атак: автоматический джейлбрейк LLM Black-Box](https://assets-global.website-files.com/62a8db3f7f80ab5d3420c03a/656eaaed8e762c7543693902_Robust_Intelligence_Blackbox_Attacks_on_LLMs.pdf)
  * [GPTs](https://github.com/linexjlin/GPTs): Утечка подсказок GPT. [![stars](https://badgen.net/github/stars/linexjlin/GPTs)](https://github.com/linexjlin/GPTs)
  * [Использование уязвимостей AI](https://github.com/protectai/ai-exploits): Коллекция реальных эксплойтов AI/ML для ответственно раскрытых уязвимостей. [![stars](https://badgen.net/github/stars/protectai/ai-exploits)](https://github.com/protectai/ai-exploits)
  * [Агенты LLM могут автономно взламывать веб-сайты](https://arxiv.org/abs/2402.06664v1)
  * [Cloudflare анонсирует Firewall для ИИ](https://blog.cloudflare.com/firewall-for-ai)
  * [PromptInject](https://github.com/agencyenterprise/PromptInject): Фреймворк, который собирает подсказки в модульном виде для обеспечения количественного анализа устойчивости LLM к состязательным атакам подсказок. [![stars](https://badgen.net/github/stars/agencyenterprise/PromptInject)](https://github.com/agencyenterprise/PromptInject)
  * [LLM Red Teaming: состязательный, программный и лингвистический подходы против ChatGPT, Claude, Mistral, Grok, LLAMA и Gemini](https://adversa.ai/blog/llm-red-teaming-vs-grok-chatgpt-claude-gemini-bing-mistral-llama/)
  * [Иерархия инструкций: обучение LLM расстановке приоритетов в привилегированных инструкциях](https://arxiv.org/abs/2404.13208)
  * [Быстрая инъекция / Взлом банковского агента LLM (GPT-4, Langchain)](https://www.youtube.com/watch?v=5rXVg8cxne4)
  * [GitHub Copilot Chat: от оперативного внедрения до утечки данных](https://embracethered.com/blog/posts/2024/github-copilot-chat-prompt-injection-data-exfiltration/?s=35)
  * [Состязательные примеры не выровнены в многообразиях диффузионной модели](https://arxiv.org/abs/2401.06637)
  * [Логический джейлбрейк «изображение-в-текст»: ваше воображение может помочь вам сделать что угодно](https://arxiv.org/abs/2407.02534)
  * [Mitigating Skeleton Key, новый тип генеративной техники джейлбрейка на основе ИИ](https://www.microsoft.com/en-us/security/blog/2024/06/26/mitigating-skeleton-key-a-new-type-of-generative-ai-jailbreak-technique/)
  * [Тест обфускации изображений](https://github.com/google-deepmind/image_obfuscation_benchmark): Этот репозиторий содержит код для оценки моделей в тесте обфускации изображений, впервые представленном в [Тестирование устойчивости к состязательным обфускациям изображений](https://arxiv.org/abs/2301.12993). [![stars](https://badgen.net/github/stars/google-deepmind/image_obfuscation_benchmark)](https://github.com/google-deepmind/image_obfuscation_benchmark)


#### 🛠️ Инструменты 🛠️

| Имя | Тип | Поддерживаемые алгоритмы | Поддерживаемые типы атак | Атака/Защита | Поддерживаемые фреймворки | Популярность |
| ---------- | :----------: | :----------: | :----------: | :----------: | :----------: | :----------: |
| [Cleverhans](https://github.com/cleverhans-lab/cleverhans) | Изображение | [Глубокое обучение](https://en.wikipedia.org/wiki/Deep_learning) | Уклонение | Атака | [Tensorflow](https://www.tensorflow.org), [Keras](https://keras.io), [JAX](https://github.com/google/jax) | [![stars](https://badgen.net/github/stars/cleverhans-lab/cleverhans)](https://github.com/cleverhans-lab/cleverhans)|
| [Foolbox](https://github.com/bethgelab/foolbox) | Изображение | Глубокое обучение | Уклонение | Атака | Tensorflow, [PyTorch](https://pytorch.org), JAX | [![stars](https://badgen.net/github/stars/bethgelab/foolbox)](https://github.com/bethgelab/foolbox)|
| [ART](https://github.com/Trusted-AI/adversarial-robustness-toolbox) | Любой тип (изображение, табличные данные, аудио,...) | Глубокое обучение, [SVM](https://en.wikipedia.org/wiki/Support_vector_machine), [LR](https://en.wikipedia.org/wiki/Logistic_regression) и т. д. | Любой (извлечение, вывод, отравление, уклонение) | Оба | Tensorflow, Keras, Pytorch, [Scikit Learn](https://scikit-learn.org) | [![stars](https://badgen.net/github/stars/Trusted-AI/adversarial-robustness-toolbox)](https://github.com/Trusted-AI/adversarial-robustness-toolbox)|
| [TextAttack](https://github.com/QData/TextAttack) | Текст | Глубокое обучение | Уклонение | Атака | Keras, [HuggingFace](https://huggingface.co/) | [![stars](https://badgen.net/github/stars/QData/TextAttack)](https://github.com/QData/TextAttack)|
| [Advertorch](https://github.com/BorealisAI/advertorch) | Изображение | Глубокое обучение | Уклонение | Оба | --- | [![stars](https://badgen.net/github/stars/BorealisAI/advertorch)](https://github.com/BorealisAI/advertorch)|
| [AdvBox](https://github.com/advboxes/AdvBox) | Изображение | Глубокое обучение | Уклонение | Оба | PyTorch, Tensorflow, [MxNet](https://mxnet.apache.org) | [![stars](https://badgen.net/github/stars/advboxes/AdvBox)](https://github.com/advboxes/AdvBox)|
| [DeepRobust](https://github.com/DSE-MSU/DeepRobust) | Изображение, график | Глубокое обучение | Уклонение | Оба | PyTorch | [![stars](https://badgen.net/github/stars/DSE-MSU/DeepRobust)](https://github.com/DSE-MSU/DeepRobust)|
| [Контрподход](https://github.com/Azure/counterfit) | Любой | Любой | Уклонение | Атака | --- | [![stars](https://badgen.net/github/stars/Azure/counterfit)](https://github.com/Azure/counterfit)|
| [Примеры состязательного аудио](https://github.com/carlini/audio_adversarial_examples) | Аудио | [DeepSpeech](https://github.com/mozilla/DeepSpeech) | Уклонение | Атака | --- | [![stars](https://badgen.net/github/stars/carlini/audio_adversarial_examples)](https://github.com/carlini/audio_adversarial_examples)|

###### ИСКУССТВО

[Adversarial Robustness Toolbox](https://github.com/Trusted-AI/adversarial-robustness-toolbox), сокращенно ART, представляет собой библиотеку состязательного машинного обучения с открытым исходным кодом для тестирования надежности моделей машинного обучения.

![Логотип АРТ](https://github.com/jiep/offensive-ai-compilation/raw/main/assets/images/art.png)

Он разработан на Python и реализует атаки и защиту, основанные на извлечении, инверсии, отравлении и уклонении.

ART поддерживает самые популярные фреймворки: Tensorflow, Keras, PyTorch, MxNet, ScikitLearn и многие другие.

Он не ограничивается использованием моделей, использующих изображения в качестве входных данных, но также поддерживает другие типы данных, такие как аудио, видео, табличные данные и т. д.

> [Семинар по изучению состязательного машинного обучения с помощью ART 🇪🇸](https://github.com/jiep/adversarial-machine-learning)

###### Клеверханс

[Cleverhans](https://github.com/cleverhans-lab/cleverhans) — это библиотека для проведения атак с обходом блокировок и тестирования надежности модели глубокого обучения на моделях изображений.

![Логотип Cleverhans](https://github.com/jiep/offensive-ai-compilation/raw/main/assets/images/cleverhans.png)

Он разработан на Python и интегрируется с фреймворками Tensorflow, Torch и JAX.

Он реализует многочисленные атаки, такие как L-BFGS, FGSM, JSMA, C&W и другие.

## 🔧 Используйте 🔧

Использование ИИ для выполнения вредоносной задачи и усиления классических атак.

### 🕵️‍♂️ Пентестинг 🕵️‍♂️

  * [GyoiThon](https://github.com/gyoisamurai/GyoiThon): Инструмент для тестирования на проникновение нового поколения, инструмент для сбора разведданных для веб-сервера. [![stars](https://badgen.net/github/stars/gyoisamurai/GyoiThon)](https://github.com/gyoisamurai/GyoiThon)
  * [Deep Exploit](https://github.com/13o-bbr-bbq/machine_learning_security/tree/master/DeepExploit): Полностью автоматический инструмент для тестирования на проникновение с использованием глубокого обучения с подкреплением. [![stars](https://badgen.net/github/stars/13o-bbr-bbq/machine_learning_security)](https://github.com/13o-bbr-bbq/machine_learning_security)
  * [AutoPentest-DRL](https://github.com/crond-jaist/AutoPentest-DRL): Автоматизированное тестирование на проникновение с использованием глубокого обучения с подкреплением. [![stars](https://badgen.net/github/stars/crond-jaist/AutoPentest-DRL)](https://github.com/crond-jaist/AutoPentest-DRL)
  * [DeepGenerator](https://github.com/13o-bbr-bbq/machine_learning_security/tree/master/Generator): Полностью автоматическая генерация кодов инъекций для оценки веб-приложений с использованием генетического алгоритма и генеративно-состязательных сетей.
  * [Eyeballer](https://github.com/BishopFox/eyeballer): Eyeballer предназначен для масштабных сетевых тестов на проникновение, где вам нужно найти «интересные» цели среди огромного набора веб-хостов. [![stars](https://badgen.net/github/stars/BishopFox/eyeballer)](https://github.com/BishopFox/eyeballer)
  * [Nebula](https://github.com/berylliumsec/nebula): помощник этического хакинга на базе искусственного интеллекта. [![stars](https://badgen.net/github/stars/berylliumsec/nebula)](https://github.com/berylliumsec/nebula)
  * [Команды агентов LLM могут эксплуатировать уязвимости нулевого дня](https://arxiv.org/abs/2406.01637)

### 🦠 Вредоносное ПО 🦠

  * [DeepLocker](https://i.blackhat.com/us-18/Thu-August-9/us-18-Kirat-DeepLocker-Concealing-Targeted-Attacks-with-AI-Locksmithing.pdf): Сокрытие целевых атак с помощью взлома замков на основе ИИ, IBM Labs на BH.
  * [Обзор искусственного интеллекта, используемого во вредоносном ПО](https://link.springer.com/chapter/10.1007/978-3-031-17030-0_4): тщательно отобранный список ресурсов по вредоносному ПО на основе ИИ.
  * [DeepObfusCode](https://arxiv.org/abs/1909.01837): Обфускация исходного кода с помощью сетей «последовательность-последовательность».
  * [AutoCAT](https://arxiv.org/abs/2208.08025): Обучение с подкреплением для автоматизированного исследования атак с синхронизацией кэширования.
  * [БОТНЕТ НА ОСНОВЕ ИИ](https://arxiv.org/abs/2112.02223): Теоретико-игровой подход к защите от атак ботнетов на основе ИИ.
  * [SECML_Malware](https://github.com/pralab/secml_malware): библиотека Python для создания состязательных атак против детекторов вредоносного ПО Windows. [![stars](https://badgen.net/github/stars/pralab/secml_malware)](https://github.com/pralab/secml_malware)
  * [Transcendent-release](https://github.com/s2labres/transcendent-release): Использование конформной оценки для обнаружения смещения концепций, влияющего на обнаружение вредоносных программ. [![stars](https://badgen.net/github/stars/s2labres/transcendent-release)](https://github.com/s2labres/transcendent-release)

### 🗺️ OSINT 🗺️

  * [SNAP_R](https://github.com/zerofox-oss/SNAP_R): Автоматически создавать фишинговые посты в социальных сетях. [![stars](https://badgen.net/github/stars/zerofox-oss/SNAP_R)](https://github.com/zerofox-oss/SNAP_R)
  * [SpyScrap](https://github.com/RuthGnz/SpyScrap): SpyScrap объединяет методы распознавания лиц для фильтрации результатов и использует обработку естественного языка для получения важных сущностей с веб-сайта, на котором появляется пользователь. [![stars](https://badgen.net/github/stars/RuthGnz/SpyScrap)](https://github.com/RuthGnz/SpyScrap)

### 📧 Фишинг 📧

  * [DeepDGA](https://github.com/roreagan/DeepDGA): Реализация DeepDGA: генерация и обнаружение доменов, настроенных на состязательность. [![stars](https://badgen.net/github/stars/roreagan/DeepDGA)](https://github.com/roreagan/DeepDGA)

### 🕵 Разведка угроз 🕵

  * [От песков до особняков: обеспечение автоматического создания кибератак полного жизненного цикла с помощью LLM](https://arxiv.org/abs/2407.16928)

### 👨‍🎤 Генеративный ИИ 👨‍🎤

#### 🔊 Аудио 🔊

##### 🛠️ Инструменты 🛠️
  * [deep-voice-conversion](https://github.com/andabi/deep-voice-conversion): Глубокие нейронные сети для преобразования голоса (передачи стиля голоса) в Tensorflow. [![stars](https://badgen.net/github/stars/andabi/deep-voice-conversion)](https://github.com/andabi/deep-voice-conversion)
  * [tacotron](https://github.com/keithito/tacotron): реализация TensorFlow синтеза речи Tacotron от Google с предварительно обученной моделью (неофициально). [![stars](https://badgen.net/github/stars/keithito/tacotron)](https://github.com/keithito/tacotron)
  * [Real-Time-Voice-Cloning](https://github.com/CorentinJ/Real-Time-Voice-Cloning): Клонируйте голос за 5 секунд, чтобы сгенерировать произвольную речь в реальном времени. [![stars](https://badgen.net/github/stars/CorentinJ/Real-Time-Voice-Cloning)](https://github.com/CorentinJ/Real-Time-Voice-Cloning)
  * [mimic2](https://github.com/MycroftAI/mimic2): движок преобразования текста в речь на основе архитектуры Tacotron, изначально реализованный Кейтом Ито. [![stars](https://badgen.net/github/stars/MycroftAI/mimic2)](https://github.com/MycroftAI/mimic2)
  * [Neural-Voice-Cloning-with-Few-Samples](https://github.com/Sharad24/Neural-Voice-Cloning-with-Few-Samples): Реализация нейронного клонирования голоса с несколькими образцами. Исследовательская работа от Baidu. [![stars](https://badgen.net/github/stars/Sharad24/Neural-Voice-Cloning-with-Few-Samples)](https://github.com/Sharad24/Neural-Voice-Cloning-with-Few-Samples)
  * [Vall-E](https://github.com/enhuiz/vall-e): неофициальная реализация PyTorch аудио LM VALL-E. [![звезды](https://badgen.net/github/stars/enhuiz/vall-e)](https://github.com/enhuiz/vall-e)
  * [voice-changer](https://github.com/w-okada/voice-changer): Изменение голоса в реальном времени. [![stars](https://badgen.net/github/stars/w-okada/voice-changer)](https://github.com/w-okada/voice-changer)
  * [Retrieval-based-Voice-Conversion-WebUI](https://github.com/RVC-Project/Retrieval-based-Voice-Conversion-WebUI): Простая в использовании структура преобразования голоса на основе VITS. [![stars](https://badgen.net/github/stars/RVC-Project/Retrieval-based-Voice-Conversion-WebUI)](https://github.com/RVC-Project/Retrieval-based-Voice-Conversion-WebUI)
  * [Audiocraft](https://github.com/facebookresearch/audiocraft): Audiocraft — это библиотека для обработки и генерации звука с глубоким обучением. Она включает в себя современный аудиокомпрессор/токенизатор EnCodec, а также MusicGen — простой и управляемый LM-генератор музыки с текстовым и мелодическим обусловливанием. [![stars](https://badgen.net/github/stars/facebookresearch/audiocraft)](https://github.com/facebookresearch/audiocraft)
  * [VALL-EX](https://github.com/Plachtaa/VALL-EX): реализация с открытым исходным кодом модели TTS с нулевым срабатыванием VALL-E X от Microsoft. [![stars](https://badgen.net/github/stars/Plachtaa/VALL-EX)](https://github.com/Plachtaa/VALL-EX)
  * [OpenVoice](https://github.com/myshell-ai/OpenVoice): Мгновенное клонирование голоса с помощью MyShell. [![stars](https://badgen.net/github/stars/myshell-ai/OpenVoice)](https://github.com/myshell-ai/OpenVoice)
  * [MeloTTS](https://github.com/myshell-ai/MeloTTS): Высококачественная многоязычная библиотека преобразования текста в речь от MyShell.ai. Поддерживает английский, испанский, французский, китайский, японский и корейский языки. [![stars](https://badgen.net/github/stars/myshell-ai/MeloTTS)](https://github.com/myshell-ai/MeloTTS)
  * [VoiceCraft](https://github.com/jasonppy/VoiceCraft): Редактирование речи с нуля и преобразование текста в речь в реальных условиях. [![stars](https://badgen.net/github/stars/jasonppy/VoiceCraft)](https://github.com/jasonppy/VoiceCraft)
  * [Parler-TTS](https://github.com/huggingface/parler-tts): Библиотека вывода и обучения для высококачественных моделей TTS. [![stars](https://badgen.net/github/stars/huggingface/parler-tts)](https://github.com/huggingface/parler-tts)
  * [ChatTTS](https://github.com/2noise/ChatTTS): Генеративная речевая модель для ежедневного диалога. [![stars](https://badgen.net/github/stars/2noise/ChatTTS)](https://github.com/2noise/ChatTTS)



##### 💡 Приложения 💡

  * [Lip2Wav](https://github.com/Rudrabha/Lip2Wav): Генерация высококачественной речи только с помощью движений губ. [![stars](https://badgen.net/github/stars/Rudrabha/Lip2Wav)](https://github.com/Rudrabha/Lip2Wav)
  * [AudioLDM: Генерация текста в аудио с использованием моделей скрытой диффузии](https://huggingface.co/spaces/haoheliu/audioldm-text-to-audio-generation)
  * [deepvoice3_pytorch](https://github.com/r9y9/deepvoice3_pytorch): реализация PyTorch моделей синтеза текста в речь на основе сверточных нейронных сетей. [![stars](https://badgen.net/github/stars/r9y9/deepvoice3_pytorch)](https://github.com/r9y9/deepvoice3_pytorch)
  * [🎸 Riffusion](https://github.com/riffusion/riffusion): Стабильная диффузия для генерации музыки в реальном времени. [![stars](https://badgen.net/github/stars/riffusion/riffusion)](https://github.com/riffusion/riffusion)
  * [whisper.cpp](https://github.com/ggerganov/whisper.cpp): Порт модели Whisper от OpenAI на C/C++. [![stars](https://badgen.net/github/stars/ggerganov/whisper.cpp)](https://github.com/ggerganov/whisper.cpp)
  * [TTS](https://github.com/coqui-ai/TTS): 🐸💬 - набор инструментов глубокого обучения для преобразования текста в речь, проверенный в ходе исследований и производства. [![stars](https://badgen.net/github/stars/coqui-ai/TTS)](https://github.com/coqui-ai/TTS)
  * [YourTTS](https://github.com/Edresson/YourTTS): На пути к многоканальному TTS с нулевым качеством и преобразованию голоса с нулевым качеством для всех. [![stars](https://badgen.net/github/stars/Edresson/YourTTS)](https://github.com/Edresson/YourTTS)
  * [TorToiSe](https://github.com/neonbjb/tortoise-tts): Многоголосая система TTS, обученная с упором на качество. [![stars](https://badgen.net/github/stars/neonbjb/tortoise-tts)](https://github.com/neonbjb/tortoise-tts)
  * [DiffSinger](https://github.com/MoonInTheRiver/DiffSinger): Синтез вокального голоса с помощью механизма поверхностной диффузии (SVS и TTS). [![stars](https://badgen.net/github/stars/MoonInTheRiver/DiffSinger)](https://github.com/MoonInTheRiver/DiffSinger)
  * [Вокодер WaveNet](https://github.com/r9y9/wavenet_vocoder): Реализация вокодера WaveNet, который может генерировать высококачественные необработанные образцы речи, обусловленные лингвистическими или акустическими особенностями. [![stars](https://badgen.net/github/stars/r9y9/wavenet_vocoder)](https://github.com/r9y9/wavenet_vocoder)
  * [Deepvoice3_pytorch](https://github.com/r9y9/deepvoice3_pytorch): реализация PyTorch моделей синтеза текста в речь на основе сверточных нейронных сетей. [![stars](https://badgen.net/github/stars/r9y9/deepvoice3_pytorch)](https://github.com/r9y9/deepvoice3_pytorch)
  * [eSpeak NG Text-to-Speech](https://github.com/espeak-ng/espeak-ng): eSpeak NG — это синтезатор речи с открытым исходным кодом, который поддерживает более ста языков и акцентов. [![звезды](https://badgen.net/github/stars/espeak-ng/espeak-ng)](https://github.com/espeak-ng/espeak-ng)
  * [RealChar](https://github.com/Shaunwei/RealChar): Создавайте, настраивайте и общайтесь с вашим персонажем/компаньоном ИИ в реальном времени (все в одной кодовой базе!). Общайтесь с ИИ везде (на мобильном устройстве, в сети и на терминале) с помощью LLM OpenAI GPT3.5/4, Anthropic Claude2, Chroma Vector DB, Whisper Speech2Text, ElevenLabs Text2Speech. [![stars](https://badgen.net/github/stars/Shaunwei/RealChar)](https://github.com/Shaunwei/RealChar)
  * [Нейронное клонирование голоса с помощью нескольких образцов](https://proceedings.neurips.cc/paper/2018/hash/4559912e7a94a9c32b09d894f2bc3c82-Abstract.html)
  * [NAUTILUS: Универсальная система клонирования голоса](https://ieeexplore.ieee.org/abstract/document/9246264)
  * [Учимся бегло говорить на иностранном языке: многоязычный синтез речи и кросс-языковое клонирование голоса](https://arxiv.org/abs/1907.04448)
  * [Когда добро становится злом: распознавание нажатий клавиш с помощью умных часов](https://dl.acm.org/doi/10.1145/2810103.2813668)
  * [KeyListener: распознавание нажатий клавиш на QWERTY-клавиатуре сенсорного экрана с помощью акустических сигналов](https://ieeexplore.ieee.org/document/8737591)
  * [Этого голоса не существует: о синтезе голоса, аудиоподделках и их обнаружении](https://this-voice-does-not-exist.com)
  * [AudioSep](https://github.com/Audio-AGI/AudioSep): Разделяйте все, что вы описываете. [![stars](https://badgen.net/github/stars/Audio-AGI/AudioSep)](https://github.com/Audio-AGI/AudioSep)
  * [stable-audio-tools](https://github.com/Stability-AI/stable-audio-tools): Генеративные модели для условной генерации звука. [![stars](https://badgen.net/github/stars/Stability-AI/stable-audio-tools)](https://github.com/Stability-AI/stable-audio-tools)
  * [GPT-SoVITS-WebUI](https://github.com/RVC-Boss/GPT-SoVITS): голосовые данные длительностью 1 мин также можно использовать для обучения хорошей модели TTS! (клонирование голоса с несколькими кадрами). [![stars](https://badgen.net/github/stars/RVC-Boss/GPT-SoVITS)](https://github.com/RVC-Boss/GPT-SoVITS)
  * [Hybrid-Net](https://github.com/DoMusic/Hybrid-Net): Разделение источников звука в реальном времени, генерация текстов песен, аккордов, ритма. [![stars](https://badgen.net/github/stars/DoMusic/Hybrid-Net)](https://github.com/DoMusic/Hybrid-Net)

##### 🔎 Обнаружение 🔎
  * [fake-voice-detection](https://github.com/dessa-oss/fake-voice-detection): Использование временной свертки для обнаружения аудио Deepfakes. [![stars](https://badgen.net/github/stars/dessa-oss/fake-voice-detection)](https://github.com/dessa-oss/fake-voice-detection)
  * [Надежная система обнаружения подделки голоса с использованием новых функций CLS-LBP и LSTM](https://www.sciencedirect.com/science/article/pii/S1319157822000684)
  * [Детектор голосовой подмены: унифицированная система защиты от подмены](https://www.sciencedirect.com/science/article/abs/pii/S0957417422002330)
  * [Защита голосовых интерфейсов от поддельных (клонированных) аудиоатак](https://ieeexplore.ieee.org/abstract/document/8695320)
  * [DeepSonar: на пути к эффективному и надежному обнаружению поддельных голосов, синтезированных ИИ](https://dl.acm.org/doi/abs/10.1145/3394171.3413716)
  * [Борьба с ИИ с помощью ИИ: обнаружение поддельной речи с помощью глубокого обучения](https://www.aes.org/e-lib/online/browse.cfm?elib=20479)
  * [Обзор современных методов обнаружения аудиоподделок: проблемы и будущие направления](https://www.mdpi.com/1999-4893/15/5/155)

#### 📷 Изображение 📷

##### 🛠️ Инструменты 🛠️

  * [StyleGAN](https://github.com/NVlabs/stylegan): StyleGAN — официальная реализация TensorFlow. [![stars](https://badgen.net/github/stars/NVlabs/stylegan)](https://github.com/NVlabs/stylegan)
  * [StyleGAN2](https://github.com/NVlabs/stylegan2): StyleGAN2 — официальная реализация TensorFlow. [![stars](https://badgen.net/github/stars/NVlabs/stylegan2)](https://github.com/NVlabs/stylegan2)
  * [stylegan2-ada-pytorch](https://github.com/NVlabs/stylegan2-ada-pytorch): StyleGAN2-ADA — официальная реализация PyTorch. [![звезды](https://badgen.net/github/stars/NVlabs/stylegan2-ada-pytorch)](https://github.com/NVlabs/stylegan2-ada-pytorch)
  * [StyleGAN-nada](https://github.com/rinongal/StyleGAN-nada): адаптация генераторов изображений под управлением CLIP. [![звезды](https://badgen.net/github/stars/rinongal/StyleGAN-nada)](https://github.com/rinongal/StyleGAN-nada)
  * [StyleGAN3](https://github.com/NVlabs/stylegan3): Официальная реализация StyleGAN3 на PyTorch. [![stars](https://badgen.net/github/stars/NVlabs/stylegan3)](https://github.com/NVlabs/stylegan3)
  * [Imaginaire](https://github.com/NVlabs/imaginaire): Imaginaire — это библиотека Pytorch, которая содержит оптимизированную реализацию нескольких методов синтеза изображений и видео, разработанных в NVIDIA. [![stars](https://badgen.net/github/stars/NVlabs/imaginaire)](https://github.com/NVlabs/imaginaire)
  * [ffhq-dataset](https://github.com/NVlabs/ffhq-dataset): Набор данных Flickr-Faces-HQ (FFHQ). [![stars](https://badgen.net/github/stars/NVlabs/ffhq-dataset)](https://github.com/NVlabs/ffhq-dataset)
  * [DALLE2-pytorch](https://github.com/lucidrains/DALLE2-pytorch): Реализация DALL-E 2, обновленной нейронной сети синтеза текста в изображение от OpenAI, в Pytorch. [![stars](https://badgen.net/github/stars/lucidrains/DALLE2-pytorch)](https://github.com/lucidrains/DALLE2-pytorch)
  * [ImaginAIry](https://github.com/brycedrennan/imaginAIry): Воображаемые ИИ изображения. Генерация стабильных диффузионных изображений на языке Python. [![stars](https://badgen.net/github/stars/brycedrennan/imaginAIry)](https://github.com/brycedrennan/imaginAIry)
  * [Lama Cleaner](https://github.com/Sanster/lama-cleaner): Инструмент для закрашивания изображений на основе модели SOTA AI. Удалите все нежелательные объекты, дефекты, людей с ваших изображений или сотрите и замените (на основе стабильной диффузии) любую вещь на ваших изображениях. [![stars](https://badgen.net/github/stars/Sanster/lama-cleaner)](https://github.com/Sanster/lama-cleaner)
  * [Invertible-Image-Rescaling](https://github.com/pkuxmq/Invertible-Image-Rescaling): Это реализация PyTorch для paper: Invertible Image Rescaling. [![stars](https://badgen.net/github/stars/pkuxmq/Invertible-Image-Rescaling)](https://github.com/pkuxmq/Invertible-Image-Rescaling)
  * [DifFace](https://github.com/zsyOAOA/DifFace): Слепое восстановление лица с помощью сокращения рассеянных ошибок (PyTorch). [![stars](https://badgen.net/github/stars/zsyOAOA/DifFace)](https://github.com/zsyOAOA/DifFace)
  * [CodeFormer](https://github.com/sczhou/CodeFormer): На пути к надежному слепому восстановлению лица с помощью преобразователя поиска в кодовой книге. [![stars](https://badgen.net/github/stars/sczhou/CodeFormer)](https://github.com/sczhou/CodeFormer)
  * [Пользовательское распространение](https://github.com/adobe-research/custom-diffusion): многоконцептуальная настройка распространения текста в изображение. [![stars](https://badgen.net/github/stars/adobe-research/custom-diffusion)](https://github.com/adobe-research/custom-diffusion)
  * [Диффузеры](https://github.com/huggingface/diffusers): 🤗 Диффузоры: Современные модели диффузии для генерации изображений и звука в PyTorch. [![stars](https://badgen.net/github/stars/huggingface/diffusers)](https://github.com/huggingface/diffusers)
  * [Стабильная диффузия](https://github.com/Stability-AI/stablediffusion): Синтез изображений высокого разрешения с моделями скрытой диффузии. [![stars](https://badgen.net/github/stars/Stability-AI/stablediffusion)](https://github.com/Stability-AI/stablediffusion)
  * [InvokeAI](https://github.com/invoke-ai/InvokeAI): InvokeAI — ведущий креативный движок для моделей Stable Diffusion, позволяющий профессионалам, художникам и энтузиастам создавать и создавать визуальные медиа с использованием новейших технологий на основе ИИ. Решение предлагает ведущий в отрасли WebUI, поддерживает использование терминала через CLI и служит основой для множества коммерческих продуктов. [![stars](https://badgen.net/github/stars/invoke-ai/InvokeAI)](https://github.com/invoke-ai/InvokeAI)
  * [Стабильный веб-интерфейс диффузии](https://github.com/AUTOMATIC1111/stable-diffusion-webui): Стабильный веб-интерфейс диффузии. [![stars](https://badgen.net/github/stars/AUTOMATIC1111/stable-diffusion-webui)](https://github.com/AUTOMATIC1111/stable-diffusion-webui)
  * [Stable Diffusion Infinity](https://github.com/lkwq007/stablediffusion-infinity): Перерисовка с помощью Stable Diffusion на бесконечном холсте. [![stars](https://badgen.net/github/stars/lkwq007/stablediffusion-infinity)](https://github.com/lkwq007/stablediffusion-infinity)
  * [Быстрая стабильная диффузия](https://github.com/TheLastBen/fast-stable-diffusion): быстрая-стабильная-диффузия + DreamBooth. [![stars](https://badgen.net/github/stars/TheLastBen/fast-stable-diffusion)](https://github.com/TheLastBen/fast-stable-diffusion)
  * [GET3D](https://github.com/nv-tlabs/GET3D): Генеративная модель высококачественных 3D-текстурированных форм, полученных из изображений. [![stars](https://badgen.net/github/stars/nv-tlabs/GET3D)](https://github.com/nv-tlabs/GET3D)
  * [Awesome AI Art Image Synthesis](https://github.com/altryne/awesome-ai-art-image-synthesis): список потрясающих инструментов, идей, инструментов для проектирования подсказок, совместных проектов, моделей и помощников для дизайнеров подсказок, играющих с aiArt и синтезом изображений. Охватывает Dalle2, MidJourney, StableDiffusion и инструменты с открытым исходным кодом. [![stars](https://badgen.net/github/stars/altryne/awesome-ai-art-image-synthesis)](https://github.com/altryne/awesome-ai-art-image-synthesis)
  * [Стабильная диффузия](https://github.com/CompVis/stable-diffusion): Модель скрытой диффузии текста в изображение. [![stars](https://badgen.net/github/stars/CompVis/stable-diffusion)](https://github.com/CompVis/stable-diffusion)
  * [Weather Diffusion](https://github.com/IGITUGraz/WeatherDiffusion): Код для «Восстановления зрения в неблагоприятных погодных условиях с помощью моделей шумоподавления на основе патчей». [![stars](https://badgen.net/github/stars/IGITUGraz/WeatherDiffusion)](https://github.com/IGITUGraz/WeatherDiffusion)
  * [DF-GAN](https://github.com/tobran/DF-GAN): Простая и эффективная основа для синтеза текста в изображение. [![stars](https://badgen.net/github/stars/tobran/DF-GAN)](https://github.com/tobran/DF-GAN)
  * [Dall-E Playground](https://github.com/saharmor/dalle-playground): Площадка для генерации изображений из любой текстовой подсказки с использованием Stable Diffusion (ранее: с использованием DALL-E Mini). [![stars](https://badgen.net/github/stars/saharmor/dalle-playground)](https://github.com/saharmor/dalle-playground)
  * [MM-CelebA-HQ-Dataset](https://github.com/IIGROUP/MM-CelebA-HQ-Dataset): Крупномасштабный набор данных изображений лиц, который позволяет генерировать текст в изображение, манипулировать изображениями с помощью текста, генерировать эскизы в изображения, GAN для генерации и редактирования лиц, подписи к изображениям и VQA. [![stars](https://badgen.net/github/stars/IIGROUP/MM-CelebA-HQ-Dataset)](https://github.com/IIGROUP/MM-CelebA-HQ-Dataset)
  * [Deep Daze](https://github.com/lucidrains/deep-daze): Простой инструмент командной строки для генерации текста в изображение с использованием CLIP и Siren (неявная нейронная сеть представления) от OpenAI. [![stars](https://badgen.net/github/stars/lucidrains/deep-daze)](https://github.com/lucidrains/deep-daze)
  * [StyleMapGAN](https://github.com/naver-ai/StyleMapGAN): Использование пространственных измерений скрытых данных в GAN для редактирования изображений в реальном времени. [![stars](https://badgen.net/github/stars/naver-ai/StyleMapGAN)](https://github.com/naver-ai/StyleMapGAN)
  * [Kandinsky-2](https://github.com/ai-forever/Kandinsky-2): Многоязычная модель скрытой диффузии text2image. [![stars](https://badgen.net/github/stars/ai-forever/Kandinsky-2)](https://github.com/ai-forever/Kandinsky-2)
  * [DragGAN](https://github.com/XingangPan/DragGAN): Интерактивная точечная манипуляция на генеративном многообразии изображений. [![stars](https://badgen.net/github/stars/XingangPan/DragGAN)](https://github.com/XingangPan/DragGAN)
  * [Segment Anything](https://github.com/facebookresearch/segment-anything): Репозиторий предоставляет код для запуска вывода с помощью модели SegmentAnything (SAM), ссылки для загрузки контрольных точек обученной модели и примеры блокнотов, которые показывают, как использовать модель. [![stars](https://badgen.net/github/stars/facebookresearch/segment-anything)](https://github.com/facebookresearch/segment-anything)
  * [Segment Anything 2](https://github.com/facebookresearch/segment-anything-2): Репозиторий предоставляет код для запуска вывода с помощью Meta Segment Anything Model 2 (SAM 2), ссылки для загрузки контрольных точек обученной модели и примеры блокнотов, которые показывают, как использовать модель. [![stars](https://badgen.net/github/stars/facebookresearch/segment-anything-2)](https://github.com/facebookresearch/segment-anything-2)
  * [MobileSAM](https://github.com/ChaoningZhang/MobileSAM): Это официальный код для проекта MobileSAM, который делает SAM легким для мобильных приложений и не только! [![stars](https://badgen.net/github/stars/ChaoningZhang/MobileSAM)](https://github.com/ChaoningZhang/MobileSAM)
  * [FastSAM](https://github.com/CASIA-IVA-Lab/FastSAM): быстрая сегментация чего угодно
 [![звезды](https://badgen.net/github/stars/CASIA-IVA-Lab/FastSAM)](https://github.com/CASIA-IVA-Lab/FastSAM)
  * [Infinigen](https://github.com/princeton-vl/infinigen): Бесконечные фотореалистичные миры с использованием процедурной генерации. [![stars](https://badgen.net/github/stars/princeton-vl/infinigen)](https://github.com/princeton-vl/infinigen)
  * [ДАЛЛ·Е 3](https://openai.com/dall-e-3)
  * [StreamDiffusion](https://github.com/cumulo-autumn/StreamDiffusion): решение конвейерного уровня для интерактивной генерации в реальном времени. [![stars](https://badgen.net/github/stars/cumulo-autumn/StreamDiffusion)](https://github.com/cumulo-autumn/StreamDiffusion)
  * [AnyDoor](https://github.com/cumulo-autumn/StreamDiffusion): Настройка изображения на уровне объекта с нуля. [![stars](https://badgen.net/github/stars/cumulo-autumn/StreamDiffusion)](https://github.com/cumulo-autumn/StreamDiffusion)
  * [DiT](https://github.com/facebookresearch/DiT): Масштабируемые модели диффузии с трансформаторами. [![stars](https://badgen.net/github/stars/facebookresearch/DiT)](https://github.com/facebookresearch/DiT)
  * [BrushNet](https://github.com/TencentARC/BrushNet): готовая к использованию модель закрашивания изображений с декомпозированной двухветвевой диффузией. [![stars](https://badgen.net/github/stars/TencentARC/BrushNet)](https://github.com/TencentARC/BrushNet)
  * [OOTDiffusion](https://github.com/levihsu/OOTDiffusion): Скрытая диффузия на основе слияния для контролируемой виртуальной примерки. [![stars](https://badgen.net/github/stars/levihsu/OOTDiffusion)](https://github.com/levihsu/OOTDiffusion)
  * [VAR](https://github.com/FoundationVision/VAR): Официальная реализация "Визуального авторегрессионного моделирования: масштабируемая генерация изображений с помощью прогнозирования следующего масштаба". [![stars](https://badgen.net/github/stars/FoundationVision/VAR)](https://github.com/FoundationVision/VAR)
  * [Imagine Flash: Ускорение моделей диффузии эму с помощью обратной дистилляции](https://ai.meta.com/research/publications/imagine-flash-accelerating-emu-diffusion-models-with-backward-distillation/)

##### 💡 Приложения 💡

  * [ArtLine](https://github.com/vijishmadhavan/ArtLine): Проект на основе глубокого обучения для создания портретов в стиле штрихового искусства. [![stars](https://badgen.net/github/stars/vijishmadhavan/ArtLine)](https://github.com/vijishmadhavan/ArtLine)
  * [Depix](https://github.com/beurtschipper/Depix): Восстанавливает пароли из пикселизированных снимков экрана. [![stars](https://badgen.net/github/stars/beurtschipper/Depix)](https://github.com/beurtschipper/Depix)
  * [Возвращаем старые фотографии к жизни](https://github.com/microsoft/Bringing-Old-Photos-Back-to-Life): Восстановление старых фотографий (официальная реализация PyTorch). [![stars](https://badgen.net/github/stars/microsoft/Bringing-Old-Photos-Back-to-Life)](https://github.com/microsoft/Bringing-Old-Photos-Back-to-Life)
  * [Rewriting](https://github.com/davidbau/rewriting): Интерактивный инструмент для прямого редактирования правил GAN для синтеза сцен с добавленными, удаленными или измененными объектами. Измените StyleGANv2, чтобы сделать экстравагантные брови или лошадей в шляпах. [![stars](https://badgen.net/github/stars/davidbau/rewriting)](https://github.com/davidbau/rewriting)
  * [Fawkes](https://github.com/Shawn-Shan/fawkes): Инструмент для сохранения конфиденциальности в системах распознавания лиц. [![stars](https://badgen.net/github/stars/Shawn-Shan/fawkes)](https://github.com/Shawn-Shan/fawkes)
  * [Pulse](https://github.com/adamian98/pulse): Самостоятельная передискретизация фотографий с помощью скрытого пространства. Исследование генеративных моделей. [![stars](https://badgen.net/github/stars/adamian98/pulse)](https://github.com/adamian98/pulse)
  * [HiDT](https://github.com/saic-mdal/HiDT): Официальный репозиторий для статьи «Дневной перевод высокого разрешения без доменных меток». [![stars](https://badgen.net/github/stars/saic-mdal/HiDT)](https://github.com/saic-mdal/HiDT)
  * [3D Photo Inpainting](https://github.com/vt-vl-lab/3d-photo-inpainting): 3D-фотография с использованием контекстно-зависимой многослойной глубинной зарисовки. [![stars](https://badgen.net/github/stars/vt-vl-lab/3d-photo-inpainting)](https://github.com/vt-vl-lab/3d-photo-inpainting)
  * [SteganoGAN](https://github.com/DAI-Lab/SteganoGAN): SteganoGAN — это инструмент для создания стеганографических изображений с использованием состязательного обучения. [![stars](https://badgen.net/github/stars/DAI-Lab/SteganoGAN)](https://github.com/DAI-Lab/SteganoGAN)
  * [Stylegan-T](https://github.com/autonomousvision/stylegan-t): Раскрытие возможностей GAN для быстрого крупномасштабного синтеза текста в изображение. [![stars](https://badgen.net/github/stars/autonomousvision/stylegan-t)](https://github.com/autonomousvision/stylegan-t)
  * [MegaPortraits](https://github.com/SamsungLabs/MegaPortraits): мегапиксельные нейронные аватары головы, сделанные один раз. [![stars](https://badgen.net/github/stars/SamsungLabs/MegaPortraits)](https://github.com/SamsungLabs/MegaPortraits)
  * [eg3d](https://github.com/NVlabs/eg3d): Эффективные 3D-генеративные состязательные сети с учетом геометрии. [![stars](https://badgen.net/github/stars/NVlabs/eg3d)](https://github.com/NVlabs/eg3d)
  * [TediGAN](https://github.com/IIGROUP/TediGAN): Реализация Pytorch для TediGAN: генерация и обработка разнообразных изображений лиц с помощью текста. [![stars](https://badgen.net/github/stars/IIGROUP/TediGAN)](https://github.com/IIGROUP/TediGAN)
  * [DALLE-pytorch](https://github.com/lucidrains/DALLE-pytorch): Реализация/репликация DALL-E, преобразователя текста в изображение от OpenAI, в Pytorch. [![stars](https://badgen.net/github/stars/lucidrains/DALLE-pytorch)](https://github.com/lucidrains/DALLE-pytorch)
  * [StyleNeRF](https://github.com/facebookresearch/StyleNeRF): Это реализация с открытым исходным кодом статьи ICLR2022 «StyleNeRF: 3D-генератор на основе стилей для синтеза изображений высокого разрешения». [![stars](https://badgen.net/github/stars/facebookresearch/StyleNeRF)](https://github.com/facebookresearch/StyleNeRF)
  * [DeepSVG](https://github.com/alexandre01/deepsvg): Официальный код для статьи "DeepSVG: Иерархическая генеративная сеть для векторной графической анимации". Включает библиотеку PyTorch для глубокого обучения с данными SVG. [![stars](https://badgen.net/github/stars/alexandre01/deepsvg)](https://github.com/alexandre01/deepsvg)
  * [NUWA](https://github.com/microsoft/NUWA): унифицированный конвейер 3D Transformer для визуального синтеза. [![stars](https://badgen.net/github/stars/microsoft/NUWA)](https://github.com/microsoft/NUWA)
  * [Image-Super-Resolution-via-Iterative-Refinement](https://github.com/Janspiry/Image-Super-Resolution-via-Iterative-Refinement): Неофициальная реализация Image Super-Resolution via Iterative Refinement от Pytorch. [![stars](https://badgen.net/github/stars/Janspiry/Image-Super-Resolution-via-Iterative-Refinement)](https://github.com/Janspiry/Image-Super-Resolution-via-Iterative-Refinement)
  * [Lama](https://github.com/saic-mdal/lama): 🦙 LaMa Image Inpainting, большая маска Inpainting с высоким разрешением и свертками Фурье. [![stars](https://badgen.net/github/stars/saic-mdal/lama)](https://github.com/saic-mdal/lama)
  * [Person_reID_baseline_pytorch](https://github.com/layumi/Person_reID_baseline_pytorch): Pytorch ReID: маленькая, удобная и мощная реализация Pytorch для базовой линии повторной идентификации объектов. [![stars](https://badgen.net/github/stars/layumi/Person_reID_baseline_pytorch)](https://github.com/layumi/Person_reID_baseline_pytorch)
  * [instruct-pix2pix](https://github.com/timothybrooks/instruct-pix2pix): реализация InstructPix2Pix на PyTorch, модели редактирования изображений на основе инструкций. [![stars](https://badgen.net/github/stars/timothybrooks/instruct-pix2pix)](https://github.com/timothybrooks/instruct-pix2pix)
  * [GFPGAN](https://github.com/TencentARC/GFPGAN): GFPGAN нацелен на разработку практических алгоритмов для восстановления реальных лиц. [![stars](https://badgen.net/github/stars/TencentARC/GFPGAN)](https://github.com/TencentARC/GFPGAN)
  * [DeepVecFont](https://github.com/yizhiwang96/deepvecfont): Синтез высококачественных векторных шрифтов с помощью дуального обучения. [![stars](https://badgen.net/github/stars/yizhiwang96/deepvecfont)](https://github.com/yizhiwang96/deepvecfont)
  * [Stargan v2 Tensorflow](https://github.com/clovaai/stargan-v2-tensorflow): Официальная реализация Tensorflow. [![stars](https://badgen.net/github/stars/clovaai/stargan-v2-tensorflow)](https://github.com/clovaai/stargan-v2-tensorflow)
  * [StyleGAN2 Distillation](https://github.com/EvgenyKashin/stylegan2-distillation): Парный перевод изображения в изображение, обученный на синтетических данных, сгенерированных StyleGAN2, превосходит существующие подходы к обработке изображений. [![stars](https://badgen.net/github/stars/EvgenyKashin/stylegan2-distillation)](https://github.com/EvgenyKashin/stylegan2-distillation)
  * [Извлечение обучающих данных из моделей диффузии](https://arxiv.org/abs/2301.13188)
  * [Mann-E - Mann-E (перс.: مانی) - это модель генератора произведений искусства, основанная на весах Stable Diffusion 1.5 и данных, собранных из художественных материалов, доступных на Pinterest](https://opencognitives.com/mann-e)
  * [Сквозные обученные сети кодирования-декодирования CNN для стеганографии изображений](https://arxiv.org/abs/1711.07201)
  * [Grounded-Segment-Anything](https://github.com/IDEA-Research/Grounded-Segment-Anything): объединение Grounding DINO с Segment Anything, Stable Diffusion, Tag2Text, BLIP, Whisper и ChatBot — автоматическое обнаружение, сегментация и генерация чего угодно с помощью изображений, текста и аудиовходов. [![stars](https://badgen.net/github/stars/IDEA-Research/Grounded-Segment-Anything)](https://github.com/IDEA-Research/Grounded-Segment-Anything)
  * [AnimateDiff](https://github.com/guoyww/AnimateDiff): Анимируйте свои персонализированные модели диффузии текста в изображение без специальной настройки. [![stars](https://badgen.net/github/stars/guoyww/AnimateDiff)](https://github.com/guoyww/AnimateDiff)
  * [BasicSR](https://github.com/XPixelGroup/BasicSR): набор инструментов для восстановления изображений и видео с открытым исходным кодом для сверхвысокого разрешения, шумоподавления, устранения размытия и т. д. В настоящее время он включает EDSR, RCAN, SRResNet, SRGAN, ESRGAN, EDVR, BasicVSR, SwinIR, ECBSR и т. д. Также поддерживает StyleGAN2, DFDNet. [![stars](https://badgen.net/github/stars/XPixelGroup/BasicSR)](https://github.com/XPixelGroup/
  BasicSR)
  * [Real-ESRGAN](https://github.com/xinntao/Real-ESRGAN): Real-ESRGAN нацелен на разработку практических алгоритмов для общего восстановления изображений/видео. [![stars](https://badgen.net/github/stars/xinntao/Real-ESRGAN)](https://github.com/xinntao/Real-ESRGAN)
  * [ESRGAN](https://github.com/xinntao/ESRGAN): Улучшенный SRGAN. Чемпионский PIRM Challenge по перцептивному суперразрешению. [![stars](https://badgen.net/github/stars/xinntao/ESRGAN)](https://github.com/xinntao/ESRGAN)
  * [MixNMatch](https://github.com/Yuheng-Li/MixNMatch): Многофакторное распутывание и кодирование для условной генерации изображений. [![stars](https://badgen.net/github/stars/Yuheng-Li/MixNMatch)](https://github.com/Yuheng-Li/MixNMatch)
  * [Clarity-upscaler](https://github.com/philz1337x/clarity-upscaler): Переосмысленное масштабирование изображений для всех. [![stars](https://badgen.net/github/stars/philz1337x/clarity-upscaler)](https://github.com/philz1337x/clarity-upscaler)
  * [Одношаговая диффузия с дистилляцией, соответствующей распределению](https://tianweiy.github.io/dmd/)
  * [Invisible Stitch](https://github.com/paulengstler/invisible-stitch): Создание плавных 3D-сцен с глубинной прорисовкой. [![stars](https://badgen.net/github/stars/paulengstler/invisible-stitch)](https://github.com/paulengstler/invisible-stitch)
  * [SSR](https://github.com/paulengstler/https://github.com/DaLi-Jack/SSR-code): Реконструкция 3D-сцены в одном ракурсе с высококачественной формой и текстурой. [![stars](https://badgen.net/github/stars/paulengstler/https://github.com/DaLi-Jack/SSR-code)](https://github.com/paulengstler/https://github.com/DaLi-Jack/SSR-code)



##### 🔎 Обнаружение 🔎

  * [stylegan3-detector](https://github.com/NVlabs/stylegan3-detector): обнаружение синтетических изображений StyleGAN3. [![stars](https://badgen.net/github/stars/NVlabs/stylegan3-detector)](https://github.com/NVlabs/stylegan3-detector)
  * [stylegan2-projecting-images](https://github.com/woctezuma/stylegan2-projecting-images): Проецирование изображений в скрытое пространство с помощью StyleGAN2. [![stars](https://badgen.net/github/stars/woctezuma/stylegan2-projecting-images)](https://github.com/woctezuma/stylegan2-projecting-images)
  * [FALdetector](https://github.com/PeterWang512/FALdetector): обнаружение отфотошопленных лиц с помощью сценариев Photoshop. [![звезды](https://badgen.net/github/stars/PeterWang512/FALdetector)](https://github.com/PeterWang512/FALdetector)

#### 🎥 Видео 🎥

##### 🛠️ Инструменты 🛠️

  * [DeepFaceLab](https://github.com/iperov/DeepFaceLab): DeepFaceLab — ведущее программное обеспечение для создания дипфейков. [![stars](https://badgen.net/github/stars/iperov/DeepFaceLab)](https://github.com/iperov/DeepFaceLab)
  * [faceswap](https://github.com/deepfakes/faceswap): Программное обеспечение Deepfakes для всех. [![stars](https://badgen.net/github/stars/deepfakes/faceswap)](https://github.com/deepfakes/faceswap)
  * [точка](https://github.com/sensity-ai/dot): Набор инструментов для наступления на Deepfake. [![звезды](https://badgen.net/github/stars/sensity-ai/dot)](https://github.com/sensity-ai/dot)
  * [SimSwap](https://github.com/neuralchen/SimSwap): Фреймворк для произвольной замены лиц на изображениях и видео с одной обученной моделью! [![stars](https://badgen.net/github/stars/neuralchen/SimSwap)](https://github.com/neuralchen/SimSwap)
  * [faceswap-GAN](https://github.com/shaoanlu/faceswap-GAN): шумоподавляющий автоэнкодер + механизмы состязательных потерь и внимания для подмены лиц. [![stars](https://badgen.net/github/stars/shaoanlu/faceswap-GAN)](https://github.com/shaoanlu/faceswap-GAN)
  * [Celeb DeepFakeForensics](https://github.com/yuezunli/celeb-deepfakeforensics): масштабный сложный набор данных для криминалистики DeepFake. [![stars](https://badgen.net/github/stars/yuezunli/celeb-deepfakeforensics)](https://github.com/yuezunli/celeb-deepfakeforensics)
  * [VGen](https://github.com/damo-vilab/i2vgen-xl): целостная экосистема генерации видео для создания видео на основе моделей диффузии. [![stars](https://badgen.net/github/stars/damo-vilab/i2vgen-xl)](https://github.com/damo-vilab/i2vgen-xl)
  * [MuseV](https://github.com/TMElyralab/MuseV): генерация бесконечного по длине и высокой точности виртуального человеческого видео с визуальным обусловленным параллельным шумоподавлением. [![stars](https://badgen.net/github/stars/TMElyralab/MuseV)](https://github.com/TMElyralab/MuseV)
  * [GLEE](https://github.com/FoundationVision/GLEE): Общая модель фундамента объектов для изображений и видео в масштабе. [![stars](https://badgen.net/github/stars/FoundationVision/GLEE)](https://github.com/FoundationVision/GLEE)
  * [T-Rex](https://github.com/IDEA-Research/T-Rex): На пути к универсальному обнаружению объектов с помощью синергии текстовых и визуальных подсказок. [![stars](https://badgen.net/github/stars/IDEA-Research/T-Rex)](https://github.com/IDEA-Research/T-Rex)
  * [DynamiCrafter](https://github.com/Doubiiu/DynamiCrafter): Анимация изображений с открытым доменом с помощью априорных данных диффузии видео. [![stars](https://badgen.net/github/stars/Doubiiu/DynamiCrafter)](https://github.com/Doubiiu/DynamiCrafter)
  * [Mora](https://github.com/lichao-sun/Mora): Больше похоже на Sora для универсальной генерации видео. [![stars](https://badgen.net/github/stars/lichao-sun/Mora)](https://github.com/lichao-sun/Mora)

##### 💡 Приложения 💡

  * [face2face-demo](https://github.com/datitran/face2face-demo): демо pix2pix, которое обучается на основе ориентиров лица и преобразует их в лицо. [![stars](https://badgen.net/github/stars/datitran/face2face-demo)](https://github.com/datitran/face2face-demo)
  * [Faceswap-Deepfake-Pytorch](https://github.com/Oldpan/Faceswap-Deepfake-Pytorch): замена лиц с помощью Pytorch или DeepFake с помощью Pytorch. [![stars](https://badgen.net/github/stars/Oldpan/Faceswap-Deepfake-Pytorch)](https://github.com/Oldpan/Faceswap-Deepfake-Pytorch)
  * [Point-E](https://github.com/openai/point-e): Диффузия облака точек для синтеза 3D-моделей. [![stars](https://badgen.net/github/stars/openai/point-e)](https://github.com/openai/point-e)
  * [EGVSR](https://github.com/Thmen/EGVSR): Эффективное и универсальное суперразрешение видео. [![stars](https://badgen.net/github/stars/Thmen/EGVSR)](https://github.com/Thmen/EGVSR)
  * [STIT](https://github.com/rotemtzaban/STIT): Сшейте это вовремя: редактирование реальных видео с помощью GAN. [![stars](https://badgen.net/github/stars/rotemtzaban/STIT)](https://github.com/rotemtzaban/STIT)
  * [BackgroundMattingV2](https://github.com/PeterL1n/BackgroundMattingV2): фоновое матирование высокого разрешения в реальном времени. [![stars](https://badgen.net/github/stars/PeterL1n/BackgroundMattingV2)](https://github.com/PeterL1n/BackgroundMattingV2)
  * [MODNet](https://github.com/ZHKKKe/MODNet): Решение для матирования портретов без Trimap в реальном времени. [![stars](https://badgen.net/github/stars/ZHKKKe/MODNet)](https://github.com/ZHKKKe/MODNet)
  * [Background-Matting](https://github.com/senguptaumd/Background-Matting): Фоновое матирование: мир — ваш зеленый экран. [![stars](https://badgen.net/github/stars/senguptaumd/Background-Matting)](https://github.com/senguptaumd/Background-Matting)
  * [Модель первого порядка](https://github.com/AliaksandrSiarohin/first-order-model): Этот репозиторий содержит исходный код для статьи «Модель движения первого порядка для анимации изображений». [![stars](https://badgen.net/github/stars/AliaksandrSiarohin/first-order-model)](https://github.com/AliaksandrSiarohin/first-order-model)
  * [Articulated Animation](https://github.com/snap-research/articulated-animation): Этот репозиторий содержит исходный код для статьи CVPR'2021 «Представления движения для артикуляционной анимации». [![stars](https://badgen.net/github/stars/snap-research/articulated-animation)](https://github.com/snap-research/articulated-animation)
  * [Удаление людей в реальном времени](https://github.com/jasonmayes/Real-Time-Person-Removal): Удаление людей со сложного фона в реальном времени с помощью TensorFlow.js в веб-браузере. [![stars](https://badgen.net/github/stars/jasonmayes/Real-Time-Person-Removal)](https://github.com/jasonmayes/Real-Time-Person-Removal)
  * [AdaIN-style](https://github.com/xunhuang1995/AdaIN-style): Произвольная передача стиля в реальном времени с адаптивной нормализацией экземпляров. [![stars](https://badgen.net/github/stars/xunhuang1995/AdaIN-style)](https://github.com/xunhuang1995/AdaIN-style)
  * [Интерполяция кадров](https://github.com/google-research/frame-interpolation): Интерполяция кадров для больших движений. [![stars](https://badgen.net/github/stars/google-research/frame-interpolation)](https://github.com/google-research/frame-interpolation)
  * [Awesome-Image-Colorization](https://github.com/MarkMoHR/Awesome-Image-Colorization): 📚 Коллекция статей по раскрашиванию изображений и видео на основе глубокого обучения. [![stars](https://badgen.net/github/stars/MarkMoHR/Awesome-Image-Colorization)](https://github.com/MarkMoHR/Awesome-Image-Colorization)
  * [SadTalker](https://github.com/OpenTalker/SadTalker): Изучение реалистичных коэффициентов движения в 3D для стилизованной аудиоуправляемой анимации говорящего лица. [![stars](https://badgen.net/github/stars/OpenTalker/SadTalker)](https://github.com/OpenTalker/SadTalker)
  * [roop](https://github.com/s0md3v/roop): Deepfake в один клик (замена лица). [![stars](https://badgen.net/github/stars/s0md3v/roop)](https://github.com/s0md3v/roop)
  * [StableVideo](https://github.com/rese1f/StableVideo): редактирование диффузионного видео с учетом согласованности текста. [![stars](https://badgen.net/github/stars/rese1f/StableVideo)](https://github.com/rese1f/StableVideo)
  * [MagicEdit](https://github.com/magic-research/magic-edit): Высококачественный временно-когерентный видеомонтаж. [![stars](https://badgen.net/github/stars/magic-research/magic-edit)](https://github.com/magic-research/magic-edit)
  * [Rerender_A_Video](https://github.com/williamyang1991/Rerender_A_Video): Перевод видео в видео с нулевым кадром и текстовым сопровождением. [![stars](https://badgen.net/github/stars/williamyang1991/Rerender_A_Video)](https://github.com/williamyang1991/Rerender_A_Video)
  * [DreamEditor](https://github.com/zjy526223908/DreamEditor): Текстовое редактирование 3D-сцен с использованием нейронных полей. [![stars](https://badgen.net/github/stars/zjy526223908/DreamEditor)](https://github.com/zjy526223908/DreamEditor)
  * [DreamEditor](https://github.com/zju3dv/4K4D): Синтез 4D-вида в реальном времени с разрешением 4K. [![stars](https://badgen.net/github/stars/zju3dv/4K4D)](https://github.com/zju3dv/4K4D)
  * [AnimateAnyone](https://github.com/HumanAIGC/AnimateAnyone): Последовательный и управляемый синтез изображения в видео для анимации персонажей. [![stars](https://badgen.net/github/stars/HumanAIGC/AnimateAnyone)](https://github.com/HumanAIGC/AnimateAnyone)
  * [Moore-AnimateAnyone](https://github.com/MooreThreads/Moore-AnimateAnyone): Этот репозиторий воспроизводит AnimateAnyone. [![stars](https://badgen.net/github/stars/MooreThreads/Moore-AnimateAnyone)](https://github.com/MooreThreads/Moore-AnimateAnyone)
  * [audio2photoreal](https://github.com/facebookresearch/audio2photoreal): От аудио к фотореальному воплощению: синтез людей в разговорах. [![stars](https://badgen.net/github/stars/facebookresearch/audio2photoreal)](https://github.com/facebookresearch/audio2photoreal)
  * [MagicVideo-V2: Многоэтапная генерация высокоэстетичного видео](https://magicvideov2.github.io/)
  * [LWM](https://github.com/LargeWorldModel/LWM): Универсальная многоконтекстная мультимодальная авторегрессионная модель. Она обучается на большом наборе данных разнообразных длинных видео и книг с использованием RingAttention и может выполнять понимание и генерацию языка, изображений и видео. [![stars](https://badgen.net/github/stars/LargeWorldModel/LWM)](https://github.com/LargeWorldModel/LWM)
  * [AniPortrait](https://github.com/Zejun-Yang/AniPortrait): Синтез фотореалистичной портретной анимации с использованием звука. [![stars](https://badgen.net/github/stars/Zejun-Yang/AniPortrait)](https://github.com/Zejun-Yang/AniPortrait)
  * [Champ](https://github.com/fudan-generative-vision/champ): Управляемая и последовательная анимация изображения человека с 3D-параметрическим управлением. [![stars](https://badgen.net/github/stars/fudan-generative-vision/champ)](https://github.com/fudan-generative-vision/champ)
  * [Streamv2v](https://github.com/Jeff-LiangF/streamv2v): Потоковая трансляция видео в видео с помощью банков функций. [![stars](https://badgen.net/github/stars/Jeff-LiangF/streamv2v)](https://github.com/Jeff-LiangF/streamv2v)
  * [Deep-Live-Cam](https://github.com/hacksider/Deep-Live-Cam): замена лица в реальном времени и создание поддельного видео одним щелчком мыши с использованием всего одного изображения. [![stars](https://badgen.net/github/stars/hacksider/Deep-Live-Cam)](https://github.com/hacksider/Deep-Live-Cam)
  * [Sapiens](https://github.com/facebookresearch/sapiens): Основа для моделей человеческого зрения. [![stars](https://badgen.net/github/stars/facebookresearch/sapiens)](https://github.com/facebookresearch/sapiens)


##### 🔎 Обнаружение 🔎

  * [FaceForensics++](https://github.com/ondyari/FaceForensics): набор данных FaceForensics. [![stars](https://badgen.net/github/stars/ondyari/FaceForensics)](https://github.com/ondyari/FaceForensics)
  * [DeepFake-Detection](https://github.com/dessa-oss/DeepFake-Detection): На пути к обнаружению deepfake, которое действительно работает. [![stars](https://badgen.net/github/stars/dessa-oss/DeepFake-Detection)](https://github.com/dessa-oss/DeepFake-Detection)
  * [fakeVideoForensics](https://github.com/jiep/fakeVideoForensics): Обнаружение поддельных видео. [![stars](https://badgen.net/github/stars/jiep/fakeVideoForensics)](https://github.com/jiep/fakeVideoForensics)
  * [Deepfake-Detection](https://github.com/HongguLiu/Deepfake-Detection): реализация Deepfake Detection на Pytorch на основе Faceforensics++. [![stars](https://badgen.net/github/stars/HongguLiu/Deepfake-Detection)](https://github.com/HongguLiu/Deepfake-Detection)
  * [SeqDeepFake](https://github.com/rshaojimmy/SeqDeepFake): Код PyTorch для SeqDeepFake: обнаружение и восстановление последовательных манипуляций DeepFake. [![stars](https://badgen.net/github/stars/rshaojimmy/SeqDeepFake)](https://github.com/rshaojimmy/SeqDeepFake)
  * [PCL-I2G](https://github.com/jtchen0528/PCL-I2G): Неофициальная реализация: изучение самосогласованности для обнаружения дипфейков. [![stars](https://badgen.net/github/stars/jtchen0528/PCL-I2G)](https://github.com/jtchen0528/PCL-I2G)
  * [DFDC DeepFake Challenge](https://github.com/selimsef/dfdc_deepfake_challenge): Решение, завоевавшее приз, для конкурса DFDC. [![stars](https://badgen.net/github/stars/selimsef/dfdc_deepfake_challenge)](https://github.com/selimsef/dfdc_deepfake_challenge)
  * [POI-Forensics](https://github.com/grip-unina/poi-forensics): Аудиовизуальное обнаружение фейковых сообщений о лицах, представляющих интерес. [![stars](https://badgen.net/github/stars/grip-unina/poi-forensics)](https://github.com/grip-unina/poi-forensics)
  * [Стандартизация обнаружения дипфейков: почему эксперты говорят, что это важно](https://antispoofing.org/deepfake-detection-standardization-origin-goals-and-implementation/)
  * [Хотите распознать дипфейк? Ищите звезды в их глазах](https://ras.ac.uk/news-and-press/news/want-spot-deepfake-look-stars-their-eyes)

#### 📄 Текст 📄

##### 🛠️ Инструменты 🛠️
  * [GLM-130B](https://github.com/THUDM/GLM-130B): Открытая двуязычная предварительно обученная модель. [![stars](https://badgen.net/github/stars/THUDM/GLM-130B)](https://github.com/THUDM/GLM-130B)
  * [LongtermChatExternalSources](https://github.com/daveshap/LongtermChatExternalSources): чат-бот GPT-3 с долговременной памятью и внешними источниками. [![stars](https://badgen.net/github/stars/daveshap/LongtermChatExternalSources)](https://github.com/daveshap/LongtermChatExternalSources)
  * [sketch](https://github.com/approximatelabs/sketch): помощник по написанию кода на основе ИИ, который понимает содержимое данных. [![stars](https://badgen.net/github/stars/approximatelabs/sketch)](https://github.com/approximatelabs/sketch)
  * [LangChain](https://github.com/hwchase17/langchain): ⚡ Создание приложений с LLM посредством компоновки ⚡. [![stars](https://badgen.net/github/stars/hwchase17/langchain)](https://github.com/hwchase17/langchain)
  * [ChatGPT Wrapper](https://github.com/mmabrouk/chatgpt-wrapper): API для взаимодействия с ChatGPT с помощью Python и из Shell. [![stars](https://badgen.net/github/stars/mmabrouk/chatgpt-wrapper)](https://github.com/mmabrouk/chatgpt-wrapper)
  * [openai-python](https://github.com/openai/openai-python): Библиотека OpenAI Python обеспечивает удобный доступ к API OpenAI из приложений, написанных на языке Python. [![stars](https://badgen.net/github/stars/openai/openai-python)](https://github.com/openai/openai-python)
  * [Beto](https://github.com/dccuchile/beto): испанская версия модели BERT. [![stars](https://badgen.net/github/stars/dccuchile/beto)](https://github.com/dccuchile/beto)
  * [GPT-Code-Clippy](https://github.com/CodedotAl/gpt-code-clippy): GPT-Code-Clippy (GPT-CC) — это версия GitHub Copilot с открытым исходным кодом, языковая модель, основанная на GPT-3, называемая GPT-Codex. [![stars](https://badgen.net/github/stars/CodedotAl/gpt-code-clippy)](https://github.com/CodedotAl/gpt-code-clippy)
  * [GPT Neo](https://github.com/EleutherAI/gpt-neo): Реализация параллельных моделей в стиле GPT-2 и GPT-3 с использованием библиотеки mesh-tensorflow. [![stars](https://badgen.net/github/stars/EleutherAI/gpt-neo)](https://github.com/EleutherAI/gpt-neo)
  * [ctrl](https://github.com/salesforce/ctrl): Модель языка условного преобразователя для управляемой генерации. [![stars](https://badgen.net/github/stars/salesforce/ctrl)](https://github.com/salesforce/ctrl)
  * [Llama](https://github.com/facebookresearch/llama): Код вывода для моделей LLaMA. [![stars](https://badgen.net/github/stars/facebookresearch/llama)](https://github.com/facebookresearch/llama)
  * [Llama2](https://ai.meta.com/llama/)
  * [Лама-страж 3](https://llama.meta.com/docs/model-cards-and-prompt-formats/llama-guard-3/)
  * [UL2 20B](https://ai.googleblog.com/2022/10/ul2-20b-open-source-unified-language.html): унифицированный изучающий язык с открытым исходным кодом
  * [burgpt](https://github.com/aress31/burpgpt): расширение Burp Suite, которое интегрирует GPT OpenAI для выполнения дополнительного пассивного сканирования с целью обнаружения высокоспециализированных уязвимостей и позволяет выполнять анализ трафика любого типа. [![stars](https://badgen.net/github/stars/aress31/burpgpt)](https://github.com/aress31/burpgpt)
  * [Ollama](https://github.com/jmorganca/ollama): Начните работать с Llama 2 и другими крупными языковыми моделями локально. [![stars](https://badgen.net/github/stars/jmorganca/ollama)](https://github.com/jmorganca/ollama)
  * [SneakyPrompt](https://github.com/Yuchen413/text2image_safety): Взлом генеративных моделей преобразования текста в изображение. [![stars](https://badgen.net/github/stars/Yuchen413/text2image_safety)](https://github.com/Yuchen413/text2image_safety)
    * [Copilot-For-Security](https://github.com/Azure/Copilot-For-Security): генеративное решение безопасности на базе ИИ, которое помогает повысить эффективность и возможности защитников для улучшения результатов безопасности со скоростью и масштабом машины, оставаясь при этом соответствующим принципам ответственного ИИ. [![stars](https://badgen.net/github/stars/Azure/Copilot-For-Security)](https://github.com/Azure/Copilot-For-Security)
  * [LM Studio](https://lmstudio.ai/): найдите, загрузите и запустите локальные LLM
  * [Обход GPT: преобразование текста ИИ в контент, подобный человеческому](https://bypassgpt.ai/)
  * [MGM](https://github.com/dvlab-research/MGM): Фреймворк поддерживает ряд плотных и MoE больших языковых моделей (LLM) от 2B до 34B с одновременным пониманием, обоснованием и генерацией изображений. [![stars](https://badgen.net/github/stars/dvlab-research/MGM)](https://github.com/dvlab-research/MGM)
  * [Secret Llama](https://github.com/abi/secret-llama): Полностью приватный чат-бот LLM, который работает исключительно с браузером без необходимости в сервере. Поддерживает Mistral и LLama 3. [![stars](https://badgen.net/github/stars/abi/secret-llama)](https://github.com/abi/secret-llama)
  * [Llama3](https://github.com/meta-llama/llama3): Официальный сайт Meta Llama 3 на GitHub. [![stars](https://badgen.net/github/stars/meta-llama/llama3)](https://github.com/meta-llama/llama3)

##### 🔎 Обнаружение 🔎

  * [Обнаружение поддельного текста](https://github.com/HendrikStrobelt/detecting-fake-text): Гигантская тестовая комната для языковых моделей. [![stars](https://badgen.net/github/stars/HendrikStrobelt/detecting-fake-text)](https://github.com/HendrikStrobelt/detecting-fake-text)
  * [Grover](https://github.com/rowanz/grover): Код для защиты от нейронных фейковых новостей. [![stars](https://badgen.net/github/stars/rowanz/grover)](https://github.com/rowanz/grover)
  * [Rebuff.ai](https://github.com/protectai/rebuff): Детектор подсказок инъекций. [![stars](https://badgen.net/github/stars/protectai/rebuff)](https://github.com/protectai/rebuff)
  * [Новый ИИ-классификатор для обозначения текста, написанного ИИ](https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/)
  * [Откройте для себя 4 волшебных метода обнаружения текста, сгенерированного ИИ (включая ChatGPT)](https://medium.com/@itamargolan/uncover-the-four-enchanted-ways-to-identify-ai-generated-text-cluding-chatgpts-4764847fd609)
  * [GPTZero](https://gptzero.me)
  * [ИИ-детектор контента (бета)](https://copyleaks.com/ai-content-detector)
  * [Водяной знак для больших языковых моделей](https://arxiv.org/abs/2301.10226)
  * [Можно ли надежно обнаружить текст, сгенерированный ИИ?](https://arxiv.org/abs/2303.11156)
  * [Детекторы GPT предвзяты по отношению к авторам, для которых английский язык не является родным](https://arxiv.org/abs/2304.02819)
  * [ChatGPT или не ChatGPT: вот в чем вопрос!](https://arxiv.org/abs/2304.01487)
  * [Могут ли лингвисты отличить ChatGPT/AI от человеческого письма?: исследование исследовательской этики и академических публикаций](https://www.sciencedirect.com/science/article/abs/pii/S2772766123000289)
  * [ChatGPT — это чушь](https://link.springer.com/article/10.1007/s10676-024-09775-5)


##### 💡 Приложения 💡

  * [handwrite](https://github.com/builtree/handwrite): Handwrite генерирует пользовательский шрифт на основе вашего образца почерка. [![stars](https://badgen.net/github/stars/builtree/handwrite)](https://github.com/builtree/handwrite)
  * [GPT Sandbox](https://github.com/shreyashankar/gpt3-sandbox): Цель этого проекта — дать пользователям возможность создавать интересные веб-демонстрации с использованием недавно выпущенного API OpenAI GPT-3 с помощью всего нескольких строк Python. [![stars](https://badgen.net/github/stars/shreyashankar/gpt3-sandbox)](https://github.com/shreyashankar/gpt3-sandbox)
  * [PassGAN](https://github.com/brannondorsey/PassGAN): Метод глубокого обучения для подбора паролей. [![stars](https://badgen.net/github/stars/brannondorsey/PassGAN)](https://github.com/brannondorsey/PassGAN)
  * [GPT Index](https://github.com/jerryjliu/gpt_index): GPT Index — это проект, состоящий из набора структур данных, разработанных для упрощения использования больших внешних баз знаний с LLM. [![stars](https://badgen.net/github/stars/jerryjliu/gpt_index)](https://github.com/jerryjliu/gpt_index)
  * [nanoGPT](https://github.com/karpathy/nanoGPT): Самый простой и быстрый репозиторий для обучения/тонкой настройки GPT среднего размера. [![stars](https://badgen.net/github/stars/karpathy/nanoGPT)](https://github.com/karpathy/nanoGPT)
  * [whatsapp-gpt](https://github.com/danielgross/whatsapp-gpt) [![звезды](https://badgen.net/github/stars/danielgross/whatsapp-gpt)](https://github.com/danielgross/whatsapp-gpt)
  * [Расширение ChatGPT Chrome](https://github.com/gragland/chatgpt-chrome-extension): Расширение ChatGPT Chrome. Интегрирует ChatGPT в каждое текстовое поле в Интернете.
  * [Unilm](https://github.com/microsoft/unilm): Крупномасштабное самостоятельное предварительное обучение по задачам, языкам и модальностям. [![stars](https://badgen.net/github/stars/microsoft/unilm)](https://github.com/microsoft/unilm)
  * [minGPT](https://github.com/karpathy/minGPT): Минимальная повторная реализация PyTorch обучения OpenAI GPT (Generative Pretrained Transformer). [![stars](https://badgen.net/github/stars/karpathy/minGPT)](https://github.com/karpathy/minGPT)
  * [CodeGeeX](https://github.com/THUDM/CodeGeeX): Открытая многоязычная модель генерации кода. [![stars](https://badgen.net/github/stars/THUDM/CodeGeeX)](https://github.com/THUDM/CodeGeeX)
  * [Кулинарная книга OpenAI](https://github.com/openai/openai-cookbook): Примеры и руководства по использованию API OpenAI. [![stars](https://badgen.net/github/stars/openai/openai-cookbook)](https://github.com/openai/openai-cookbook)
  * [🧠 Awesome ChatGPT Prompts](https://github.com/f/awesome-chatgpt-prompts): этот репозиторий включает в себя кураторство ChatGPT prompts для лучшего использования ChatGPT. [![stars](https://badgen.net/github/stars/f/awesome-chatgpt-prompts)](https://github.com/f/awesome-chatgpt-prompts)
  * [Alice](https://github.com/greshake/Alice): Предоставление ChatGPT доступа к реальному терминалу. [![stars](https://badgen.net/github/stars/greshake/Alice)](https://github.com/greshake/Alice)
  * [Проверка кода безопасности с помощью ChatGPT](https://research.nccgroup.com/2023/02/09/security-code-review-with-chatgpt)
  * [Пишут ли пользователи более небезопасный код с помощью помощников ИИ?](https://arxiv.org/abs/2211.03622)
  * [Обход спам-фильтров Gmail с помощью ChatGPT](https://neelc.org/posts/chatgpt-gmail-spam)
  * [Рекуррентный взломщик паролей GAN для повышения безопасности паролей IoT](https://www.mdpi.com/1999-4893/15/5/155)
  * [PentestGPT](https://github.com/GreyDGL/PentestGPT): Инструмент для тестирования на проникновение с поддержкой GPT. [![stars](https://badgen.net/github/stars/GreyDGL/PentestGPT)](https://github.com/GreyDGL/PentestGPT)
  * [GPT Researcher](https://github.com/assafelovic/gpt-researcher): автономный агент на основе GPT, который проводит комплексные онлайн-исследования по любой заданной теме. [![stars](https://badgen.net/github/stars/assafelovic/gpt-researcher)](https://github.com/assafelovic/gpt-researcher)
  * [GPT Engineer](https://github.com/AntonOsika/gpt-engineer): Укажите, что именно вы хотите построить, ИИ запросит разъяснения, а затем выполнит сборку. [![stars](https://badgen.net/github/stars/AntonOsika/gpt-engineer)](https://github.com/AntonOsika/gpt-engineer)
  * [localpilot](https://github.com/danielgross/localpilot): Используйте GitHub Copilot локально на вашем Macbook одним щелчком мыши! [![stars](https://badgen.net/github/stars/danielgross/localpilot)](https://github.com/danielgross/localpilot)
  * [WormGPT])(https://thehackernews.com/2023/07/wormgpt-new-ai-tool-allows.html): Новый инструмент искусственного интеллекта позволяет киберпреступникам проводить сложные кибератаки
  * [PoisonGPT](https://blog.mithrilsecurity.io/poisongpt-how-we-hid-a-lobotomized-llm-on-hugging-face-to-spread-fake-news/): Как мы спрятали лоботомированного LLM на Hugging Face, чтобы распространять фейковые новости
  * [PassGPT: Моделирование паролей и (управляемая) генерация с использованием больших языковых моделей](https://javirandor.github.io/assets/pdf/passgpt2023rando.pdf)
  * [DeepPass — Поиск паролей с помощью глубокого обучения](https://posts.specterops.io/deeppass-finding-passwords-with-deep-learning-4d31c534cd00)
  * [GPTFuzz](https://github.com/sherdencooper/GPTFuzz): Red Teaming Large Language Models с автоматически сгенерированными подсказками для джейлбрейка. [![stars](https://badgen.net/github/stars/sherdencooper/GPTFuzz)](https://github.com/sherdencooper/GPTFuzz)
  * [Open Interpreter](https://github.com/KillianLucas/open-interpreter): Интерпретатор кода OpenAI в вашем терминале, работающий локально. [![stars](https://badgen.net/github/stars/KillianLucas/open-interpreter)](https://github.com/KillianLucas/open-interpreter)
  * [Eureka](https://github.com/eureka-research/Eureka): Проектирование вознаграждения на уровне человека посредством кодирования больших языковых моделей. [![stars](https://badgen.net/github/stars/eureka-research/Eureka)](https://github.com/eureka-research/Eureka)
  * [MetaCLIP](https://github.com/facebookresearch/MetaCLIP): Разоблачение данных CLIP. [![stars](https://badgen.net/github/stars/facebookresearch/MetaCLIP)](https://github.com/facebookresearch/MetaCLIP)
  * [LLM OSINT](https://github.com/sshh12/llm_osint): Метод проверки концепции использования LLM для сбора информации из Интернета и последующего выполнения задачи с этой информацией. [![stars](https://badgen.net/github/stars/sshh12/llm_osint)](https://github.com/sshh12/llm_osint)
  * [HackingBuddyGPT](https://github.com/ipa-lab/hackingBuddyGPT): LLM x PenTesting. [![stars](https://badgen.net/github/stars/ipa-lab/hackingBuddyGPT)](https://github.com/ipa-lab/hackingBuddyGPT)
  * [ChatGPT-Jailbreaks](https://github.com/GabryB03/ChatGPT-Jailbreaks): Официальный джейлбрейк для ChatGPT (GPT-3.5). Отправьте длинное сообщение в начале разговора с ChatGPT, чтобы получить оскорбительные, неэтичные, агрессивные, человеческие ответы на английском и итальянском языках. [![stars](https://badgen.net/github/stars/GabryB03/ChatGPT-Jailbreaks)](https://github.com/GabryB03/ChatGPT-Jailbreaks)
  * [Magika](https://github.com/google/magika): Определение типов содержимого файлов с помощью глубокого обучения. [![stars](https://badgen.net/github/stars/google/magika)](https://github.com/google/magika)
  * [Jan](https://github.com/janhq/jan): Альтернатива ChatGPT с открытым исходным кодом, которая работает на вашем компьютере в автономном режиме. [![stars](https://badgen.net/github/stars/janhq/jan)](https://github.com/janhq/jan)
  * [LibreChat](https://github.com/danny-avila/LibreChat): улучшенный клон ChatGPT: функции OpenAI, Assistants API, Azure, Groq, GPT-4 Vision, Mistral, Bing, Anthropic, OpenRouter, Vertex AI, Gemini, переключение моделей AI, поиск сообщений, langchain, DALL-E-3, плагины ChatGPT, функции OpenAI, безопасная многопользовательская система, предустановки, полностью открытый исходный код для самостоятельного размещения. [![stars](https://badgen.net/github/stars/danny-avila/LibreChat)](https://github.com/danny-avila/LibreChat)
  * [Lumina-T2X](https://github.com/Alpha-VLLM/Lumina-T2X): унифицированная структура для генерации текста любой модальности. [![stars](https://badgen.net/github/stars/Alpha-VLLM/Lumina-T2X)](https://github.com/Alpha-VLLM/Lumina-T2X)


### 📚 Разное 📚

  * [Awesome GPT + Security](https://github.com/cckuailong/awesome-gpt-security): тщательно подобранный список потрясающих инструментов безопасности, экспериментальных случаев или других интересных вещей с LLM или GPT. [![stars](https://badgen.net/github/stars/cckuailong/awesome-gpt-security)](https://github.com/cckuailong/awesome-gpt-security)
  * [🚀 Потрясающее обучение с подкреплением для кибербезопасности](https://github.com/Limmen/awesome-rl-for-cybersecurity): тщательно отобранный список ресурсов, посвященных обучению с подкреплением, применяемому в кибербезопасности. [![stars](https://badgen.net/github/stars/Limmen/awesome-rl-for-cybersecurity)](https://github.com/Limmen/awesome-rl-for-cybersecurity)
  * [Потрясающее машинное обучение для кибербезопасности](https://github.com/jivoi/awesome-ml-for-cybersecurity): тщательно подобранный список потрясающе крутых инструментов и ресурсов, связанных с использованием машинного обучения для кибербезопасности. [![stars](https://badgen.net/github/stars/jivoi/awesome-ml-for-cybersecurity)](https://github.com/jivoi/awesome-ml-for-cybersecurity)
  * [Курс «Модели диффузии обнимающего лица»](https://github.com/huggingface/diffusion-models-class): Материалы для курса «Модели диффузии обнимающего лица». [![stars](https://badgen.net/github/stars/huggingface/diffusion-models-class)](https://github.com/huggingface/diffusion-models-class)
  * [Awesome-AI-Security](https://github.com/DeepSpaceHarbor/Awesome-AI-Security): тщательно отобранный список ресурсов по безопасности ИИ. [![stars](https://badgen.net/github/stars/DeepSpaceHarbor/Awesome-AI-Security)](https://github.com/DeepSpaceHarbor/Awesome-AI-Security)
  * [ML for Hackers](https://github.com/johnmyleswhite/ML_for_Hackers): Код, прилагающийся к книге «Машинное обучение для хакеров». [![stars](https://badgen.net/github/stars/johnmyleswhite/ML_for_Hackers)](https://github.com/johnmyleswhite/ML_for_Hackers)
  * [Ужасный ИИ](https://github.com/daviddao/awful-ai): Ужасный ИИ — это тщательно отобранный список для отслеживания текущих пугающих случаев использования ИИ в надежде повысить осведомленность. [![stars](https://badgen.net/github/stars/daviddao/awful-ai)](https://github.com/daviddao/awful-ai)
  * [Пособие по структуре управления рисками ИИ NIST](https://pages.nist.gov/AIRMF)
  * [SoK: Объяснимое машинное обучение для приложений компьютерной безопасности](https://arxiv.org/abs/2208.10605)
  * [Кто оценивает оценщиков? Об автоматических метриках для оценки генераторов агрессивного кода на основе ИИ](https://arxiv.org/abs/2212.06008)
  * [Приоритизация уязвимостей: наступательный подход к безопасности](https://arxiv.org/abs/2206.11182)
  * [MITRE ATLAS™](https://atlas.mitre.org) (ландшафт угроз для систем искусственного интеллекта)
  * [Обзор безопасности обучения с подкреплением и его применение в автономном вождении](https://arxiv.org/abs/2212.06123)
  * [Как избежать ловушек машинного обучения: руководство для академических исследователей](https://arxiv.org/abs/2108.02497)
  * [Тщательно отобранный список мероприятий по безопасности и конфиденциальности ИИ](https://github.com/ZhengyuZhao/AI-Security-and-Privacy-Events)
  * [NIST AI 100-2 E2023](https://csrc.nist.gov/pubs/ai/100/2/e2023/final): Состязательное машинное обучение. Таксономия и терминология атак и смягчения последствий.
  * [🇪🇸 RootedCon 2023 - Искусственная атака Inteligencia - ¿Cómo podemos estar preparados?](/slides/RootedCon_2023.pdf)
  * [Безопасность систем искусственного интеллекта: основы — состязательное глубокое обучение](https://www.bsi.bund.de/SharedDocs/Downloads/EN/BSI/KI/Security-of-AI-systems_fundamentals.pdf)
  * [За пределами мер безопасности: изучение рисков безопасности ChatGPT](https://arxiv.org/abs/2305.08005)
  * [Карта поверхности атаки ИИ v1.0](https://danielmiessler.com/blog/the-ai-attack-surface-map-v1-0)
  * [О невозможной безопасности больших моделей ИИ](https://arxiv.org/abs/2209.15259)
  * [Frontier AI Regulation: Управление новыми рисками для общественной безопасности](https://arxiv.org/abs/2307.03718)
  * [Многоуровневая структура надлежащей практики кибербезопасности для ИИ](https://www.enisa.europa.eu/publications/multilayer-framework-for-good-cybersecurity-practices-for-ai)
  * [Представляем платформу безопасного искусственного интеллекта Google](https://blog.google/technology/safety-security/introducing-googles-secure-ai-framework/)
  * [OWASP Top 10 для LLM](https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-2023-v1_0.pdf)
  * [Awesome LLM Security](https://github.com/awesome-llm-security): подборка потрясающих инструментов, документов и проектов по безопасности LLM. [![stars](https://badgen.net/github/stars/awesome-llm-security)](https://github.com/awesome-llm-security)
  * Фреймворк для безопасного использования LLM в компаниях. [Часть 1: Обзор рисков](https://boringappsec.substack.com/p/edition-21-a-framework-to-securely). [Часть 2: Управление рисками](https://boringappsec.substack.com/p/edition-22-a-framework-to-securely). [Часть 3: Обеспечение безопасности ChatGPT и GitHub Copilot](https://boringappsec.substack.com/p/edition-23-a-framework-to-securely).
  * [Исследование надежности и устойчивости генерации кода большой языковой модели](https://arxiv.org/abs/2308.10335)
  * [Идентификация изображений, созданных с помощью ИИ, с помощью SynthID](https://www.deepmind.com/blog/identifying-ai-generated-images-with-synthid)
  * [Аудит больших языковых моделей: трехуровневый подход](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4361607)
  * [Разрешение конфликта краткосрочных и долгосрочных рисков ИИ](https://link.springer.com/content/pdf/10.1007/s43681-023-00336-y.pdf)
  * [FraudGPT: Аватар злодея ChatGPT](https://netenrich.com/blog/fraudgpt-the-villain-avatar-of-chatgpt)
  * [Риски ИИ - Шнайер о безопасности](https://www.schneier.com/blog/archives/2023/10/ai-risks.html)
  * [Использование LLM в незаконных целях: угрозы, меры предотвращения и уязвимости](https://arxiv.org/abs/2308.12833)
  * [AI Red-Teaming — не универсальное решение проблемы вреда от ИИ: рекомендации по использованию Red-Teaming для обеспечения ответственности ИИ](https://datasociety.net/wp-content/uploads/2023/10/Recommendations-for-Using-Red-Teaming-for-AI-Accountability-PolicyBrief.pdf)
  * [Таксономия надежности искусственного интеллекта](https://cltc.berkeley.edu/wp-content/uploads/2023/01/Taxonomy_of_AI_Trustworthiness.pdf)
  * [Управление рисками ИИ в эпоху быстрого прогресса](https://arxiv.org/abs/2310.17688)
  * [Google — Действуем в соответствии с нашей приверженностью безопасному и надежному ИИ](https://blog.google/technology/safety-security/google-ai-security-expansion/)
  * [Пособие по наступательному ML](https://wiki.offsecml.com/Welcome+to+the+Offensive+ML+Playbook)
  * [Разоблачение генеративного ИИ 🤖 Заметки исследователя безопасности](https://blog.openthreatreasearch.com/demystifying-generative-ai-a-security-researchers-notes/)
  * [GenAI-Security-Adventures](https://github.com/OTRF/GenAI-Security-Adventures): инициатива с открытым исходным кодом для обмена заметками, презентациями и разнообразной коллекцией экспериментов, представленных в Jupyter Notebooks, все они направлены на то, чтобы помочь вам понять основные концепции, лежащие в основе больших языковых моделей, и исследовать интригующее пересечение безопасности и обработки естественного языка. [![stars](https://badgen.net/github/stars/OTRF/GenAI-Security-Adventures)](https://github.com/OTRF/GenAI-Security-Adventures)
  * [AI Safety Camp](https://aisafety.camp/) свяжет вас с руководителем исследования для совместной работы над проектом, чтобы увидеть, как ваша работа может помочь обеспечить безопасность будущего ИИ.
  * [Руководство по безопасной разработке систем ИИ](https://www.ncsc.gov.uk/files/Guidelines-for-secure-AI-system-development.pdf)
  * [Подход к искусственному интеллекту и кибербезопасности. ОТЧЕТ О ПЕРЕДОВОЙ ПРАКТИКЕ](https://www.ccn-cert.cni.es/es/informes/informes-de-buenas-practicas-bp/7192-ccn-cert-bp-30-approach-to-artificial-intelligence-and-cybersecurity/file.html)
  * [Безопасный, надежный и заслуживающий доверия трекер EO 14110 Стэнфордского университета](https://docs.google.com/spreadsheets/d/1xOL4hkQ2pLR-IAs3awIiXjPLmhIeXyE5-giJ5nT-h1M/edit#gid=142633882)
  * [Awesome ML Security](https://github.com/trailofbits/awesome-ml-security): тщательно отобранный список отличных ссылок, руководств, инструментов и многого другого по безопасности машинного обучения. [![stars](https://badgen.net/github/stars/trailofbits/awesome-ml-security)](https://github.com/trailofbits/awesome-ml-security)
  * [Предсказуемый путь ИИ: 7 вещей, которые следует ожидать от ИИ в 2024+](https://danielmiessler.com/p/ai-predictable-path-7-components-2024)
  * [Искусственный интеллект и кибербезопасность](https://www.ismsforum.es/ficheros/descargas/isms-gt-ia-021707141605.pdf) (на испанском :es:)
  * [Vigil](https://github.com/deadbits/vigil-llm): Обнаружение инъекций подсказок, джейлбрейков и других потенциально опасных входных данных Large Language Model (LLM). [![stars](https://badgen.net/github/stars/deadbits/vigil-llm)](https://github.com/deadbits/vigil-llm)
  * [Генеративные модели ИИ — возможности и риски для промышленности и органов власти](https://www.bsi.bund.de/SharedDocs/Downloads/EN/BSI/KI/Generative_AI_Models.pdf)
  * [Безопасное развертывание систем ИИ. Лучшие практики развертывания безопасных и устойчивых систем ИИ](https://media.defense.gov/2024/Apr/15/2003439257/-1/-1/0/CSI-DEPLOYING-AI-SYSTEMS-SECURELY.PDF)
  * [NIST AI 600-1: Структура управления рисками искусственного интеллекта: Профиль генеративного искусственного интеллекта](https://airc.nist.gov/docs/NIST.AI.600-1.GenAI-Profile.ipd.pdf)
  * [:fr: ANSSI: Recommandations De Sécurité Pour Un Système d'IA Générative (Рекомендации по безопасности для генеративной системы искусственного интеллекта)](https://cyber.gouv.fr/sites/default/files/document/Recommandations_de_s%C3% A9curit%C3%A9_pour_un_syst%C3%A8me_d_IA_g%C3%A9n%C3%A9rative.pdf)
  * [PyRIT](https://github.com/Azure/PyRIT): Инструмент идентификации рисков Python для генеративного ИИ (PyRIT) — это фреймворк автоматизации с открытым доступом, позволяющий специалистам по безопасности и инженерам машинного обучения заблаговременно находить риски в своих системах генеративного ИИ. [![stars](https://badgen.net/github/stars/Azure/PyRIT)](https://github.com/Azure/PyRIT)
  * [На пути к гарантированно безопасному ИИ: структура для обеспечения надежных и устойчивых систем ИИ](https://arxiv.org/abs/2405.06624)
  * [Определение реальных рисков ИИ](https://josephthacker.com/ai/2024/05/19/defining-real-ai-risks.html)
  * [Безопасный подход к генеративному ИИ](https://aws.amazon.com/es/ai/generative-ai/security/)
  * [Большие языковые модели в кибербезопасности](https://link.springer.com/content/pdf/10.1007/978-3-031-54827-7.pdf)
  * [Эй, это моя модель! Знакомимся с Chain & Hash, методом снятия отпечатков LLM](https://arxiv.org/abs/2407.10887)
  * [Неправильное использование генеративного ИИ: таксономия тактик и выводы из реальных данных](https://arxiv.org/abs/2406.13843)
  * [Репозиторий рисков ИИ](https://airisk.mit.edu/)

## 📊 Опросы 📊

  * [Угроза агрессивного ИИ для организаций](https://arxiv.org/abs/2106.15764)
  * [Искусственный интеллект в киберпространстве: нападение и защита](https://www.mdpi.com/2073-8994/12/3/410)
  * [Обзор состязательных атак и защит](https://ietresearch.onlinelibrary.wiley.com/doi/10.1049/cit2.12028)
  * [Состязательное глубокое обучение: обзор состязательных атак и механизмов защиты при классификации изображений](https://ieeexplore.ieee.org/document/9895425)
  * [Обзор атак на конфиденциальность в машинном обучении](https://arxiv.org/abs/2007.07646)
  * [К угрозам безопасности систем глубокого обучения: обзор](https://arxiv.org/abs/1911.12562)
  * [Обзор угроз безопасности и защитных методов машинного обучения: взгляд на основе данных](https://ieeexplore.ieee.org/document/8290925)
  * [SoK: Безопасность и конфиденциальность в машинном обучении](https://ieeexplore.ieee.org/document/8406613)
  * [Состязательное машинное обучение: рост преступности с использованием ИИ и его роль в обходе спам-фильтров](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4155496)
  * [Угрозы, уязвимости и средства контроля систем машинного обучения: обзор и таксономия](https://arxiv.org/abs/2301.07474)
  * [Атаки и защиты противников: обзор](https://arxiv.org/pdf/1810.00069.pdf)
  * [Вопросы безопасности: обзор состязательного машинного обучения](https://arxiv.org/abs/1810.07339)
  * [Обзор состязательных атак для анализа вредоносного ПО](https://arxiv.org/pdf/2111.08223.pdf)
  * [Состязательное машинное обучение в классификации изображений: обзор с точки зрения защитника](https://arxiv.org/pdf/2009.03728.pdf)
  * [Обзор надежного состязательного обучения распознаванию образов: основы, теория и методологии](https://arxiv.org/abs/2203.14046)
  * [Конфиденциальность в больших языковых моделях: атаки, защита и будущие направления](https://arxiv.org/abs/2310.10383)