Анализатор защиты нейросетей от искажения данных разработали на Ставрополье

Программный комплекс по определению защиты нейросети от подверженности атакам мошенников разработали в Северо-Кавказском федеральном университете (СКФУ). Алгоритм предлагает меры по повышению устойчивости нейросети.

«Программный комплекс, разработанный студентами СКФУ, поможет проверить, насколько хорошо защищена нейронная сеть, и предложит методы улучшения ее устойчивости. Состязательные атаки мошенников направлены на искажение данных с целью ввести систему в заблуждение и получить неправильный результат. Предотвратить алгоритмы злоумышленников призван анализатор нейронных сетей», — сообщили журналистам в пресс-центре вуза.

Анализатор помогает распознавать фальшивые файлы в нейросетях. Разработка может применяться в интеллектуальных системах видеонаблюдения, которые распознают изображение лиц. Потенциальный взлом таких устройств может сделать для системы «невидимым» преступника или правонарушителя.

«Нейросети имеют большой потенциал в анализе вредоносных программ. Они позволяют буквально сканировать файлы на наличие искаженных компонентов. Разработки наших ученых направлены на повышение безопасности и устойчивость к кибератакам в самых разных сферах деятельности. Это особенно важно, учитывая постоянно увеличивающееся число киберугроз», — цитирует пресс-центр ректора Дмитрия Беспалова.

Студенты Глеб Дюдюн и Денис Котляров под руководством доцента кафедры информационной безопасности Марии Лапиной создали работающий прототип анализатора. Он уже прошел апробацию на простых вариантах атак. На базе анализатора планируется разработка программного обеспечения для защиты нейросетей.