DOI: 10.18413/2518-1092-2022-8-2-0-7

ЗАЩИТА ОТ СОСТЯЗАТЕЛЬНЫХ АТАК НА АУДИО И ИЗОБРАЖЕНИЯ В МОДЕЛЯХ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА С ПРИМЕНЕНИЕМ МЕТОДА SGEC

Виктор Михайлович Герасимов
Мария Александровна Маслова
Эмине Илимдаровна Халилаева

В современном мире использование искусственного интеллекта (ИИ) все чаще сталкивается с риском состязательных атак на аудио и изображения. Данная статья исследует эту проблему и представляет метод SGEC как средство минимизации этих рисков. Рассматриваются различные виды атак на аудио и изображения, такие как искажение разметки, атаки "белого ящика" и "черного ящика", утечки через обученные модели и атаки на уровне железа. Основной акцент делается на методе SGEC, который предлагает шифрование данных и обеспечение их целостности в моделях ИИ. Статья также рассматривает другие способы защиты аудио и изображений, включая двойную проверку и ансамбли методов, ограничение доступа и анонимизацию данных, а также использование доказуемо устойчивых моделей ИИ.

Ключевые слова: состязательные атаки, защита голосовых отпечатков, защита биометрических данных, стеганография, шифрование данных, риски состязательных атак.

Количество просмотров: 420 (смотреть статистику)

Количество скачиваний: 1396

Полный текст (PDF)К списку статей

Информация для цитирования:

Герасимов В.М., Маслова М.А., Халилаева Э.И. Защита от состязательных атак на аудио и изображения в моделях искусственного интеллекта с применением метода SGEC // Научный результат. Информационные технологии. – Т.8, №2, 2023. – С. 53-60. DOI: 10.18413/2518-1092-2022-8-2-0-7

Комментарии
Список литературы
Благодарности

Пока никто не оставил комментариев к этой публикации.
Вы можете быть первым.

Esmaeilpour M., Cardinal P., Koerich A. L. A robust approach for securing audio classification against adversarial attacks //IEEE transactions on information forensics and security. – 2019. – Т. 15. – С. 2147-2159.
Xu H. et al. Adversarial attacks and defenses in images, graphs and text: A review //International Journal of Automation and Computing. – 2020. – Т. 17. – С. 151-178.
Свидетельство о государственной регистрации программы для ЭВМ № 2022663168 Российская Федерация. SGEC-система "BIOM" для шифрования и сокрытия голосовых данных пользователей на сервере: № 2022662279: заявл. 27.06.2022: опубл. 12.07.2022 / В. М. Герасимов, М. А. Маслова; заявитель Федеральное государственное автономное образовательное учреждение высшего образования «Севастопольский государственный университет». – EDN FJQWGB.
Clark D., Hunt S., Malacaria P. Quantitative analysis of the leakage of confidential data // Electronic Notes in Theoretical Computer Science. – 2002. – Т. 59. – №. 3. – С. 238-251.
Martin K. The penalty for privacy violations: How privacy violations impact trust online // Journal of Business Research. – 2018. – Т. 82. – С. 103-116.
Yang J. et al. Msta-net: forgery detection by generating manipulation trace based on multi-scale self-texture attention //IEEE transactions on circuits and systems for video technology. – 2021. – Т. 32. – №. 7. – С. 4854-4866.
Li G. et al. DeSVig: Decentralized swift vigilance against adversarial attacks in industrial artificial intelligence systems //IEEE Transactions on Industrial Informatics. – 2019. – Т. 16. – №. 5. – С. 3267-3277.
Meeßen S. M. et al. Trust is essential: positive effects of information systems on users’ memory require trust in the system //Ergonomics. – 2020. – Т. 63. – №. 7. – С. 909-926.
Lupton M. Some ethical and legal consequences of the application of artificial intelligence in the field of medicine //Trends Med. – 2018. – Т. 18. – №. 4. – С. 100147.
Герасимов, В. М. Комплексная система защиты биометрического голосового отпечатка от воздействия кибермошенников / В. М. Герасимов // XI Конгресс молодых учёных: Сборник научных трудов, Санкт-Петербург, 04–08 апреля 2022 года. – Санкт-Петербург: федеральное государственное автономное образовательное учреждение высшего образования "Национальный исследовательский университет ИТМО", 2022. – С. 72-76. – EDN VTVBBS.
Герасимов, В. М. Возможные угрозы и атаки на систему голосовой идентификации пользователя / В. М. Герасимов, М. А. Маслова // Научный результат. Информационные технологии. – 2022. – Т. 7, № 1. – С. 32-37. – DOI 10.18413/2518-1092-2022-7-1-0-4. – EDN JBCXMF.
Разработка программного модуля системы распознавания лиц с использованием метода Виолы – Джонса / М. И. Ожиганова, С. М. Арванова, А. А. Абитов, И. А. Уначев // Цифровая трансформация науки и образования: Сборник научных трудов II Международной научно-практической конференции, НАЛЬЧИК, 01–04 октября 2021 года. – НАЛЬЧИК, 2021. – С. 271-277. – EDN NRFFLF.

Все журналы

Отправить статью

Научный результат. Информационные технологии включен в научную базу РИНЦ (лицензионный договор № 765-12/2014 от 08.12.2014).

Журнал включен в перечень рецензируемых научных изданий, рекомендуемых ВАК

Журнал индексируется следующими научными базами и платформами

Научный результат. Научный результат. Информационные технологии (ISSN 2518-1092)

The journal materials and website are licensed under Creative Commons «Attribution» 4.0 International.

Учредитель: федеральное государственное автономное образовательное учреждение высшего образования «Белгородский государственный национальный исследовательский университет» (НИУ «БелГУ»). Адрес: 308015, Белгородская область, г. Белгород, ул. Победы, 85.

Издатель: федеральное государственное автономное образовательное учреждение высшего образования «Белгородский государственный национальный исследовательский университет» (НИУ «БелГУ»). Адрес: 308015, Белгородская область, г. Белгород, ул. Победы, 85.

Редакция: главный редактор Черноморец Андрей Алексеевич, e-mail: RR_IT@bsu.edu.ru, тел.: +7 (4722) 30-13-92.

Зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор)

Свидетельство о регистрации СМИ

Информационное письмо (русс. яз)

Остались вопросы?
Можете написать нам:

✉ Контент менеджер

✉ Администратор сайта

✉ Ответственный cекретарь