![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
lankasterskyОдна из давно известных проблем нейронных сетей - слепые пятна. Это когда при небольшом изменении картинки нейронная сеть, ранее распознавшая ее успешно, начинает распознавать неправильно.
Сейчас исследователи озабочены тем, что так можно нарушить работу автомобилей с автопилотом. Достаточно на дорожный знак наклеить небольшой стикер, который исказит его для ИИ автомобиля настолько, что полностью изменит его поведение. Это, кстати, одна из проблем, почему автопилотные автомобили столько лет находятся в стадии бета-тестирования.
По мере распространения систем распознавания изображений, проблема может обостриться, например, когда они используются для идентификации людей в публичных местах. Такие системы уже сейчас стоят в некоторых аэропортах с целью увеличения пропускной способности пассажиропотока. Если злоумышленник получит доступ к системе, то сможет найти ее белые пятна и выдать себя за другого человека.
Но анонимизация пользоватей - не всегда плохо, если она не нарушает закон. Например, ее можно использовать против систем таргетированной рекламы. Скажем, носить очки или кепку с рядом наклеек, каждая из которых вводит в заблуждение ту или иную известную нейронную сеть. Или еще лучше: использовать минипроектор, проектирующий на лицо помехи, мешающие его распознать известным системам, почти как в фильме Помутнение.
Сейчас исследователи озабочены тем, что так можно нарушить работу автомобилей с автопилотом. Достаточно на дорожный знак наклеить небольшой стикер, который исказит его для ИИ автомобиля настолько, что полностью изменит его поведение. Это, кстати, одна из проблем, почему автопилотные автомобили столько лет находятся в стадии бета-тестирования.
По мере распространения систем распознавания изображений, проблема может обостриться, например, когда они используются для идентификации людей в публичных местах. Такие системы уже сейчас стоят в некоторых аэропортах с целью увеличения пропускной способности пассажиропотока. Если злоумышленник получит доступ к системе, то сможет найти ее белые пятна и выдать себя за другого человека.
Но анонимизация пользоватей - не всегда плохо, если она не нарушает закон. Например, ее можно использовать против систем таргетированной рекламы. Скажем, носить очки или кепку с рядом наклеек, каждая из которых вводит в заблуждение ту или иную известную нейронную сеть. Или еще лучше: использовать минипроектор, проектирующий на лицо помехи, мешающие его распознать известным системам, почти как в фильме Помутнение.
