Список литературы

2518-1092

Научный результат. Информационные технологии

2518-1092

10.18413/2518-1092-2022-8-2-0-7

3147

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ПРИНЯТИЕ РЕШЕНИЙ

<strong>ЗАЩИТА ОТ СОСТЯЗАТЕЛЬНЫХ АТАК НА АУДИО И ИЗОБРАЖЕНИЯ В МОДЕЛЯХ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА С ПРИМЕНЕНИЕМ МЕТОДА SGEC</strong>

<strong>PROTECTION AGAINST ADVERSARIAL ATTACKS ON AUDIO AND IMAGES IN ARTIFICIAL INTELLIGENCE MODELS USING THE SGEC METHOD</strong>

Герасимов

Виктор Михайлович

Gerasimov

Viktor Mikhailovich

my.virus.kaspersky@gmail.com

Маслова

Мария Александровна

Maslova

Maria Alexandrovna

mashechka-81@mail.ru

Халилаева

Эмине Илимдаровна

Khalilayeva

Emine Ilimdarovna

emine.halilaeva@yandex.ru

2023

8200

В современном мире использование искусственного интеллекта (ИИ) все чаще сталкивается с риском состязательных атак на аудио и изображения. Данная статья исследует эту проблему и представляет метод SGEC как средство минимизации этих рисков. Рассматриваются различные виды атак на аудио и изображения, такие как искажение разметки, атаки "белого ящика" и "черного ящика", утечки через обученные модели и атаки на уровне железа. Основной акцент делается на методе SGEC, который предлагает шифрование данных и обеспечение их целостности в моделях ИИ. Статья также рассматривает другие способы защиты аудио и изображений, включая двойную проверку и ансамбли методов, ограничение доступа и анонимизацию данных, а также использование доказуемо устойчивых моделей ИИ.

In the modern world, the use of artificial intelligence (AI) is increasingly facing the risk of adversarial attacks on audio and images. This article explores this issue and presents the SGEC method as a means to minimize these risks. Various types of attacks on audio and images are discussed, including label manipulation, white-box and black-box attacks, leakage through trained models, and hardware-level attacks. The main focus is on the SGEC method, which offers data encryption and ensures their integrity in AI models. The article also examines other approaches to protect audio and images, such as dual verification and ensemble methods, access restriction and data anonymization, as well as the use of provably robust AI models.

состязательные атакизащита голосовых отпечатковзащита биометрических данныхстеганографияшифрование данныхриски состязательных атак

adversarial attacksvoiceprint protectionbiometric data protectionsteganographydata encryptionrisks of adversarial attacks

Работа выполнена в рамках Соглашения от 30.06.2022 г. № 40469-21/2022-к

Список литературы

Esmaeilpour M., Cardinal P., Koerich A. L. A robust approach for securing audio classification against adversarial attacks //IEEE transactions on information forensics and security. – 2019. – Т. 15. – С. 2147-2159.

Xu H. et al. Adversarial attacks and defenses in images, graphs and text: A review //International Journal of Automation and Computing. – 2020. – Т. 17. – С. 151-178.

Свидетельство о государственной регистрации программы для ЭВМ № 2022663168 Российская Федерация. SGEC-система "BIOM" для шифрования и сокрытия голосовых данных пользователей на сервере: № 2022662279: заявл. 27.06.2022: опубл. 12.07.2022 / В. М. Герасимов, М. А. Маслова; заявитель Федеральное государственное автономное образовательное учреждение высшего образования «Севастопольский государственный университет». – EDN FJQWGB.

Clark D., Hunt S., Malacaria P. Quantitative analysis of the leakage of confidential data // Electronic Notes in Theoretical Computer Science. – 2002. – Т. 59. – №. 3. – С. 238-251.

Martin K. The penalty for privacy violations: How privacy violations impact trust online // Journal of Business Research. – 2018. – Т. 82. – С. 103-116.

Yang J. et al. Msta-net: forgery detection by generating manipulation trace based on multi-scale self-texture attention //IEEE transactions on circuits and systems for video technology. – 2021. – Т. 32. – №. 7. – С. 4854-4866.

Li G. et al. DeSVig: Decentralized swift vigilance against adversarial attacks in industrial artificial intelligence systems //IEEE Transactions on Industrial Informatics. – 2019. – Т. 16. – №. 5. – С. 3267-3277.

Meeßen S. M. et al. Trust is essential: positive effects of information systems on users’ memory require trust in the system //Ergonomics. – 2020. – Т. 63. – №. 7. – С. 909-926.

Lupton M. Some ethical and legal consequences of the application of artificial intelligence in the field of medicine //Trends Med. – 2018. – Т. 18. – №. 4. – С. 100147.

Герасимов, В. М. Комплексная система защиты биометрического голосового отпечатка от воздействия кибермошенников / В. М. Герасимов // XI Конгресс молодых учёных: Сборник научных трудов, Санкт-Петербург, 04–08 апреля 2022 года. – Санкт-Петербург: федеральное государственное автономное образовательное учреждение высшего образования "Национальный исследовательский университет ИТМО", 2022. – С. 72-76. – EDN VTVBBS.

Герасимов, В. М. Возможные угрозы и атаки на систему голосовой идентификации пользователя / В. М. Герасимов, М. А. Маслова // Научный результат. Информационные технологии. – 2022. – Т. 7, № 1. – С. 32-37. – DOI 10.18413/2518-1092-2022-7-1-0-4. – EDN JBCXMF.

Разработка программного модуля системы распознавания лиц с использованием метода Виолы – Джонса / М. И. Ожиганова, С. М. Арванова, А. А. Абитов, И. А. Уначев // Цифровая трансформация науки и образования: Сборник научных трудов II Международной научно-практической конференции, НАЛЬЧИК, 01–04 октября 2021 года. – НАЛЬЧИК, 2021. – С. 271-277. – EDN NRFFLF.