Исследование выявило уязвимости нейронных сетей к злонамеренным атакам
Группа исследователей из Университета Северной Каролины обнаружила, что уязвимости нейронных сетей к злонамеренным атакам гораздо распространены, чем предполагалось ранее. Это может привести к серьезным последствиям, так как атаки могут сбить систему ИИ с толку и привести к опасным ситуациям.
Они разработали программное обеспечение под названием QuadAttack, чтобы проверить уязвимости нейронных сетей на предмет атак. Тестирование программы на четырех нейронных сетях показало, что все четыре оказались очень уязвимы.
QuadAttack стало доступно для использования всем исследовательским сообществом. Ссылка на программу: https://thomaspaniagua.github.io/quadattack_web/
Исследователи призывают разрабатывать решения для укрепления нейронных сетей и защиты от злонамеренных атак. Работа будет представлена на конференции NeurIPS 2023 в Новом Орлеане.
Оригинальная новость на сайте
