Студенты Северо-Кавказского федерального университета разработали прототип анализатора нейросетей для обнаружения и предотвращения состязательных атак
Елена ДАГОВАПоделиться
Анализатор нейронных сетей, разработанный студентами СКФУ, призван предотвратить алгоритмы злоумышленников. Фото: пресс-служба СКФУ.
Программный комплекс способен определить фальшивые файлы в нейронных сетях и помочь улучшить их защиту. Состязательные атаки направлены на искажение данных с целью ввести систему в заблуждение и получить неверные результаты. Анализатор нейронных сетей, разработанный студентами СКФУ, призван предотвратить алгоритмы злоумышленников и обеспечить более надежную защиту системы.
– Нейросети имеют большой потенциал в анализе вредоносных программ. Они позволяют буквально сканировать файлы на наличие искаженных компонентов. Разработки наших ученых направлены на повышение безопасности и устойчивость к кибератакам в самых разных сферах деятельности, – прокомментировал ректор СКФУ Дмитрий Беспалов.
Работа предлагаемого анализатора основана на простом принципе: при проведении тестов на правильных данных, если нейронная сеть предоставляет неправильные результаты, то она допускает ошибки. Чем больше ошибок на определенном элементе, тем выше вероятность того, что этот элемент искажен. Глеб Дюдюн и Денис Котляров, студенты СКФУ, использовали нейронную сеть и ее параметры при разработке. Они создали копии нейронной сети с такими же параметрами, но обучили их на правильных ответах.
Источник: www.stav.kp.ru
