14.05.2019

В Сан-Франциско могут запретить использование технологии распознавания лиц

Использовать автоматическое распознавание лиц вскоре запретят полиции и другим городским службам Сан-Франциско. Это первый город пошедший на такие меры. Подобная тенденция отражает рост отрицательной реакции на технологии, внедряемые в аэропортах, средствах передвижения, магазинах, стадионах и камерах домашней охраны.

Государственные учреждения в США уже более 10 лет используют технологию распознавания для сканирования баз данных подозреваемых и предотвращения мошенничества с личными данными. Однако последние достижения в области искусственного интеллекта позволили создать более совершенные инструменты компьютерного зрения, облегчающие полиции находить пропавших детей или протестующих в движущейся толпе людей, а в торговле — анализировать выражение лица покупателя при просмотре полок магазинов.

Усилия по ограничению использования этой технологии сталкиваются с отпором силовых структур и технологической индустрии. Microsoft призывает не к прямому запрету, а к установлению ограничений, предупреждая, что отсутствие контроля над применением технологии может привести к антиутопии, напоминающей роман Оруэлла «1984».

«Распознавание лиц — одна из технологий, признающихся людьми жуткой,— говорит Альваро Бедойя (Alvaro Bedoya), руководящий Центром приватности и технологии (Center on Privacy and Technology) в Джорджтаунском университете (Georgetown University). — Это не похоже на куки в браузере. В этой технологии есть то, что действительно заставляет волосы шевелиться».

По словам скептиков, если использовать технологии без правил, запрещающих правоохранительным органам получать доступ к базам данных водительских прав, может случиться так, что люди, никогда не бывшие арестованным, без своего ведома могут попасть под подозрение виртуальной полиции.

Скептики беспокоятся, что однажды люди не смогут пойти в парк, магазин или школу, не будучи идентифицированы или отслежены.

Уже несколько крупных магазинов по всей территории США опробуют камеры с распознаванием лиц, способные угадывать возраст, пол или настроение клиентов, проходящих мимо, с целью показа целевой рекламы в реальном времени на видеоэкранах магазинов.

Если Сан-Франциско примет предложение о запрете, за этим могут последовать другие города, штаты и даже Конгресс. Законодатели обеих партий будут стремиться ограничить наблюдение со стороны правительства. Все остальные будут надеяться ограничить анализ эмоций и походки ни о чём не подозревающих людей представителями бизнеса.

Законодательное собрание Калифорнии рассматривает предложение, запрещающее использование технологии установления личности на нагрудных видеорегистраторах. Законопроект, инициированный в Сенате США представителями обеих партий, не исключает полицейского применения, но предлагает установить ограничения по анализу лиц людей без их согласия для частного сектора.

Бедойя говорит, что запрет в Сан-Франциско, «самом технологически продвинутом городе США», будет предупреждением другим полицейским управлениям, задумывающихся об испытании этой несовершенной технологии. Но Даниэль Кастро (Daniel Castro), вице-президент поддерживаемого компаниями Фонда информационных технологий и инноваций, заявил, что это постановление слишком жёсткое, чтобы служить образцом для подражания. «В Сан-Франциско он может добиться успеха, но я буду удивлён, если его одобрят в других городах»,— сказал он.

В Сан-Франциско находятся такие технологические инноваторы как Uber, Airbnb и Twitter, но отношения города с этой отраслью весьма напряжённые.

В то же время, Сан-Франциско уделяет большое внимание защите иммигрантов, гражданских свобод и неприкосновенности частной жизни. В ноябре почти 60 % избирателей одобрили предложение по укреплению принципов конфиденциальности данных.

Предложенный городом запрет на распознавание лиц является частью более широкого законодательного процесса, направленного на регулирование использования видеонаблюдения городскими ведомствами. Законодательство применяется только к руководству Сан-Франциско и не затрагивает компании или людей, желающих использовать данную технологию. Это также не повлияет на использование системы распознавания лиц в международном аэропорту Сан-Франциско, где безопасность в основном контролируется федеральными органами.

Полиция Сан-Франциско сообщает, что прекратила тестирование распознавания лиц в 2017 году. Пресс-секретарь Дэвид Стивенсон (David Stevenson) сказал в заявлении, что департамент с нетерпением ждёт «разработки законодательства, учитывающего проблемы конфиденциальности в применении технологий, обеспечивая при этом баланс интересов общественной безопасности в растущем многонациональном городе».

Руководитель Аарон Пескин (Aaron Peskin) признаёт, что законодательство под названием «Постановление о прекращении тайного наблюдения» не очень подходит для технических специалистов. Но общественный контроль имеет решающее значение, учитывая потенциальную возможность злоупотребления.

Технология часто даёт сбои. Исследования показали, что частота ошибок в системах анализа лиц, созданных компаниями Amazon, IBM и Microsoft, была гораздо выше, когда это были темнокожие женщины, а не светлокожие мужчины.

Даже если распознавание лиц будет абсолютно точным, его использование создаст серьёзную угрозу для гражданских прав, особенно в городе с богатой историей протеста, говорит Мэтт Кейгл (Matt Cagle), адвокат.

«Если распознавание лиц добавить на нагрудные видеорегистраторы или на общедоступные каналы наблюдения, это угрожает возможности людей пойти на акцию протеста или в парк Долорес»,— говорит он.

Нагрудным видеорегистратором оснащён каждый линейный сотрудник департамента полиции Сан-Франциско.

Местные критики законодательства Сан-Франциско, однако, беспокоятся о препятствовании полицейским расследованиям в городе с большим количеством угонов транспортных средств и несколькими большими ежегодными шествиями. Они хотят быть уверены, что полиция сможет продолжать использовать видеонаблюдение, в том числе видео с камер в торговых точках и гражданских объектах, в расследованиях, не отвлекаясь на бюрократические проволочки.

Джоэль Энгардио (Joel Engardio), вице-президент низового объединения «Остановить преступность в Сан-Франциско», хочет, чтобы город был гибким.

«Наше предложение заключается не в полном запрете навсегда, а в моратории. Лучше не использовать проблемные технологии, но открыть им двери, когда они усовершенствуются»,— говорит он.

Зачастую усилия правительства по регулированию распознавания лиц происходят втайне или остаются незамеченными. В Массачусетсе реестр транспортных средств использует эту технологию с 2006 года для предотвращения мошенничества с водительскими правами, а некоторые полицейские ведомства используют её в качестве инструмента для розыска.

Сенатор штата Массачусетс Синтия Крим (Cynthia Creem) заявила, что обеспокоена отсутствием стандартов, защищающих общество от неточностей и предвзятости технологии распознавания лиц. По её словам, пока не будут разработаны более чёткие руководящие принципы, эта технология не должна использоваться правительством.

Калифорнийский дорожный патруль не использует технологию распознавания лиц. Пресс-секретарь Калифорнийского департамента автотранспорта Марти Гринштейн (Marty Greenstein) говорит, что технология распознавания лиц на фото специально запрещена в департаменте.

Законодатели добивались введения моратория на распознавание лиц в Вашингтоне, родном штате Microsoft и Amazon, но он был отклонён из-за сопротивления со стороны индустрии и полиции. Вместо этого, Microsoft поддержала более слабое предложение в рамках более широкого законопроекта о конфиденциальности данных, но дискуссия зашла в тупик, и законодатели отложили обсуждение.

Лина Медведева

Источники:

1. 22century.ru