В столице установлено 205 тысяч камер (причём их записи можно купить), но москвичей и Мосгордуму никто не спросил. Почему это стало возможным и кто пострадает от «эксперимента»?
«Система [распознавания лиц] создана не для того, чтобы наблюдать, следить за гражданами, а для того, чтобы найти преступников, которые находятся в розыске» – уверял мэр Москвы Сергей Собянин. В Москве третий год работают более 205 000 камер наблюдения, москвичей снимают буквально везде. Тем не менее нет верифицируемых данных по числу пойманных благодаря камерам преступников, а у граждан так и не спросили согласия на съёмку. Как контролируется использование данных с камер, никто не знает (но их точно можно купить). Сергей Росс, основатель ИЦ «Коллективное действие», и депутат Мосгордумы Елена Шувалова обсудили эксперимент с электронной слежкой на канале Бориса Кагарлицкого. Мы публикуем краткую версию дискуссии.
Сергей Росс
Многие страны сталкиваются с внедрением ИИ, в том числе систем распознавания лиц. Но в случае РФ их внедрение происходит максимально беспорядочно. Есть три большие проблемы: законодательные органы Москвы никак не участвуют в процессе работы системы распознавания лиц, люди не знают, что стали частью эксперимента, а Москва не спрашивает их согласия.
Московский эксперимент с распознаванием лиц горожан начался два года назад, проводится пять лет – но ни я, ни вы, ни люди вокруг вообще не в курсе, что в нём участвуют. Да, мы что-то слышим про FacePay в метро, про то, что Сбер запрашивает персональные данные – но и всё. Меж тем Москва 13-й город в мире по плотности размещения камер. Бывший глава поставщика систем распознавания лиц для Москвы NtechLab Алексей Минин утверждал, что в Москве создана крупнейшая в мире система распознавания лиц в реальном времени – 205 тысяч камер в школах, транспорте, на улицах, на подъездах.
Этот эксперимент с личными данными введён ФЗ №123 (если полностью – Федеральным законом от 24 апреля 2020 г. N 123-ФЗ “О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона “О персональных данных”). Этот рамочный закон, почти пустой сам по себе, вводит чисто московский эксперимент на федеральном уровне. То есть депутаты Мосгордумы оказались не при делах: в законе записано прямым текстом, что законодатели не имеют к нему отношения – не могут дать оценку и пр.
Елена Шувалова
Закон устанавливает право пользования этими камерами не только МВД и прокуратуре, но и правительству Москвы, и другим органам власти города, физическим и юридическим лицам. У кого будет доступ – регламентирует правительство Москвы. То есть этот инструмент слежения существует не только у правоохранителей. Олег Баранов, глава ГУ МВД по Москве, прямым текстом сказал, отвечая на мой вопрос: ГУ МВД по Москве не контролирует и не влияет на субъекты пользования информацией с московских камер.
ГУ МВД по Москве не контролирует и не влияет на субъекты пользования информацией с московских камер
Меня пугает слежение за частной жизнью, лишение её. Ей не дают сформироваться. Но речь идёт не только о слежении – данные собирается в единую базу, вырабатываются определённые алгоритмы управления населением. Завтра это может привести к тому – а у нас и так слабо с демократией в стране, – что в России может не остаться форм контроля граждан в отношении окружающей действительности. Она уже сейчас даёт существенные сигналы о последствиях. Активистка Анна Кузнецова купила в даркнете схему своих передвижений, зафиксированных камерами. СК нашел виноватых, но это единичный случай.
В Департамент информационных технологий ежегодно вливаются десятки миллиардов рублей, эти средства могли бы прокормить средних размеров провинциальный город. Почему Москва отдает департаменту информационных технологий столько полномочий? И кто ответит за слив данных граждан в ситуации, когда доступ может получить кто угодно?
Сергей Росс
Откуда берутся референтные изображения, по которым можно узнать человека – никто не говорит. А Москва не спрашивает. Ни у Мосгордумы, ни у граждан нет возможности сказать «Я не согласен».
На федеральном уровне есть закон о персональных данных, где значится: на предоставление любых данных должно быть информированное согласие. Но Москва нашла способ обойти этот закон. Московские суды считают, что когда изображение с камер сопоставляется с тем, что хранится в едином центре хранения данных, персональные данные там никак не фигурируют – сравнение идёт в обезличенном виде, данные появляются уже после сопоставления. Это одна из многих уловок.
Ни у Мосгордумы, ни у граждан нет возможности сказать «Я не согласен»
В самом ФЗ 123 признаётся, что внедрение системы распознавания лиц – это эксперимент. Который, соответственно, может пойти как угодно. Эксперимент необычайно масштабный – а дать по нему обратную связь нельзя. Нельзя никак оценить его ход и итоги (скорее всего, по окончании власти просто отрапортуют, что всё прошло успешно и надо продолжать). Нет никаких стандартов – ни по точности совпадения изображения с камер с референтным, ни по снимкам. Впрочем, использовать данные как доказательства в суде или как материал в рапортах это не мешает.
Во всём мире такие системы имеют изъяны, система то работает, то нет, иногда они дают ложноположительный ответ — и всё это можно отследить. Но желания, очевидно, нет.
Борис Кагарлицкий
Мэрия фактически ушла из-под контроля Мосгордумы. Они боятся даже не голосования – они боятся обсуждения происходящего. Слово «эксперимент» просто является способом избежать контроля. По сути этот никакой не эксперимент.
Сергей Росс
Весь мир понимает, что технология потенциально опасная, развитые страны работают над тем, чтобы ограничить её применение. Во многих городах Штатов, например, введён запрет на подобную систему. Европарламент предлагает запретить её и в ЕС.
Есть здравая инициатива применять её, но разделив на сценарии (например, не использовать на улицах, кроме как по ордеру). В России возможные ограничения даже не обсуждаются.
Где грань между полезными и вредными технологиями? Ответ, основанный на здравом смысле, возможен, когда есть каналы обратной связи. У нас их нет.
Если идёт технологический эксперимент, должна быть чёткая техническая составляющая, связанная с программным кодом. Его надо бы выложить, показать, чтоб усовершенствовать. Но всё осталось внутри. Это технологический черный ящик.
При Совете Европы есть отдельный орган – Консультативный совет, который разработал рекомендации в отношении конвенции по защите физлиц в плане обработки персональных данных (Россия эту конвенцию ратифицировала в 2001-м). Там пять основных принципов, это минимальные требования к законодательству о системе распознавания лиц:
• подробное объяснение примеров использования и его целей;
• надежность и точность используемого алгоритма;
• срок хранения использованных фотографий;
• возможность проверки этих критериев;
• отслеживаемость процесса.
В итоге в Эстонии, например, ты в любой момент может узнать, кто и на каком основании запрашивал твои персональные данные, это отображается в их аналоге госуслуг.
В Эстонии ты в любой момент может узнать, кто и на каком основании запрашивал твои персональные данные
Собянин говорит, что система видеонаблюдения призвана уменьшить преступность. Но научные исследования показывают, что наличие камер видеонаблюдения может снизить преступность в лучшем случае на 7%. По распознаванию лиц никаких исследований нет. На это выкидываются миллиарды, а почему мы делаем так, а не иначе – нет даже публичной дискуссии. И непонятно, кто и как оценивает результат эксперимента, каковы критерии успеха-неуспеха.
Чтоб пробить чей угодно маршрут по камерам, достаточно заплатить около 10 000 рублей. Но нет юридических стандартов, позволяющих привлечь тех, кто поспособствовал утечке данных. От уязвимости системы не застрахованы и сами власть предержащие, она опасна для всех. Возможно, эта простая мысль сподвигнет их задуматься о введении общих стандартов.