В своей новой книге о распознавании лиц Кашмир Хилл показывает, как за последние несколько лет были переосмылены наши представления о приватности.
Автор: Джесси Баррон
Распознавание лиц – технология не новая: 40 лет она созревала, прежде чем окончательно вошла в нашу жизнь. На Всемирной выставке в Японии в 1970 году примитивный компьютер пытался — практически безрезультатно — сопоставить посетителей с их двойниками-знаменитостями. В 2001 г. первая в мире «умная» система распознавания лиц была развернута полицейским департаментом Тампы (штат Флорида), но не привела ни к одному аресту. В 2011 году на совещании в Вашингтоне сотрудник Intel пытался продемонстрировать систему камер, способную отличать мужские лица от женских. Из зала вышла женщина с рыжими волосами длиной до плеч. Компьютер вынес вердикт: мужчина.
Распознавание лиц оказалось непростой задачей по двум причинам. Научить компьютер воспринимать человеческое лицо было достаточно сложно. Но сопоставление этого лица с личностью человека в базе данных оказалось откровенно причудливым — для этого требовались значительные вычислительные мощности и большое количество фотографий, привязанных к точным данным. Это препятствовало широкому распространению системы, поскольку на распознавании всегда можно было заработать. На смену технологии распознавания лиц (FRT) на рынок пришли другие биометрические технологии, такие как снятие отпечатков пальцев и сканирование сетчатки глаза. А проблема распознавания лиц так и не была решена.
Так думали все, пока пара исследователей из некоммерческих организаций MuckRock и Open the Government не сделали открытие. Они рассылали по всей стране запросы в соответствии с Законом о свободе информации, пытаясь выяснить, используют ли полицейские департаменты эту технологию в тайне. В 2019 г. полицейское управление Атланты ответило на один из таких запросов «бомбой»: меморандум от таинственной компании Clearview AI, которая имела дешевый сайт, но утверждала, что наконец-то решила проблему распознавания лиц и продает эту технологию правоохранительным органам за несколько тысяч долларов в год. Исследователи отправили свои результаты репортеру The New York Times Кашмиру Хиллу, который познакомил читателей с сенсацией 2020 года.
Новая книга Хилла «Ваше лицо принадлежит нам» представляет собой остросюжетную историю о том, как появилась компания Clearview, кто вложил в нее деньги и почему более обеспеченные ресурсами конкуренты, такие как Facebook или Amazon, не смогли опередить этого неизвестного игрока на рынке. Сага очень красочна, а ее герои выглядят яркими злодеями; читать ее интересно. Но самым значительным вкладом книги может стать поднятый в ней этический вопрос, который еще долгие годы будет оставаться в центре дискуссии о конфиденциальности технологий распознавания лиц. Мы уже добровольно выкладываем свою личную жизнь в Интернет, в том числе и на ресурсы компаний, которые с энтузиазмом сотрудничают с правоохранительными органами. Как в этом контексте выглядит согласие или отказ от участия? Этих успехов добился относительно небольшой игрок. Пересмотр наших ожиданий в отношении приватности требует более сложных, переплетающихся подходов и нашего собственного участия.
Книга Хилла начинается примерно через пять лет после того, как компания Intel представила в Вашингтоне свою бесполезную технологию распознавания лиц. Нейронные сети — по сути, системы искусственного интеллекта, способные к «глубокому обучению» для улучшения своих функций, — покорили систему распознавания лиц. В некоторых исследованиях они даже могут различать однояйцевых близнецов. Все, что им нужно для обучения, — это фотографии лиц, миллиарды фотографий, привязанных к реальным личностям. Удобно, что миллиарды из нас создали такую базу данных в виде своих аккаунтов в социальных сетях. Тот, кто сможет создать правильную нейронную сеть на базе нужных лиц, сможет создать первую в истории технологию распознавания лиц. Атомы лежат и ждут Оппенгеймера, который сможет сделать из них бомбу.
Оппенгеймер Хилла — Хоан Тон-Тат, австралиец вьетнамского происхождения, который начал свою карьеру с создания приложений-викторин для Facebook, а также «инвазивной, потенциально незаконной» вирусной фишинговой аферы под названием ViddyHo. Когда из-за ViddyHo он был изгнан из Кремниевой долины, Тон-Тат обратился к Чарльзу Джонсону, альт-райту, чьи сайты в середине 2010-х годов содержали эмпирически сомнительные утверждения типа «Барак Обама – гей», «Майкл Браун сам спровоцировал свое убийство и т.д.». Отвергнутый либеральными корпоративными кругами, частью которых он когда-то стремился стать, Тон-Тат совершил радикальный переход вправо.
История Тон-Тата и Джонсона следует привычной дуге мужской дружбы. В конце концов, они становятся заклятыми врагами: Тон-Тат вычеркнет Джонсона из своего бизнеса, а Джонсон станет источником информации для Хилла. Но вначале они друзья и деловые партнеры: сходятся во мнении, что было бы здорово создать программное обеспечение, которое, например, могло бы отсеивать известных левых и не пускать их на политические съезды, то есть программу распознавания лиц.
Чтобы создать такую программу, необходимо освоить нейросетевой ИИ. Удивительно, но код нейронной сети и инструкции к ней были доступны бесплатно в Интернете. Причина этого кроется в серьезном расколе в исследованиях ИИ: долгое время нейросетевой метод, при котором компьютер обучается сам, считался невозможным, в то время как «символьный» метод, при котором человек обучает компьютер шаг за шагом, был распространен. Оказавшись в роли отверженных, инженеры-нейросетевики размещали свои идеи в Интернете, ожидая того дня, когда компьютеры станут достаточно мощными, чтобы доказать их правоту. Это объясняет, почему Тон-Тату удалось так легко получить доступ к коду нейронной сети. В 2016 году он нанял инженеров, которые помогли ему переделать данные для своих целей. «Это будет звучать так, как будто я набрал в гугле «Летающий автомобиль», а потом нашел инструкцию к нему», — волнуется он в письме Хиллу (ему удалось уговорить Тон-Тата побеседовать для записи книги).
Но даже при наличии функционирующей нейронной сети оставалась проблема соответствия. Начав с Venmo, который имеет самую слабую защиту фотографий профиля, Тон-Тат стал собирать фотографии с сайтов социальных сетей. Вскоре у него уже был рабочий прототип, 200 тыс. долл. от венчурного капиталиста Питера Тиля, с которым его познакомил Джонсон, встречи с другими венчурными инвесторами и, в конечном итоге, база данных на несколько миллиардов фотографий. Тон-Тат позаботился о том, чтобы скреативить Crunchbase, базу данных важных игроков венчурного капитала, чтобы Clearview всегда корректно работала на лицах потенциальных инвесторов. В стране не существует четких законов о конфиденциальности, регулирующих, кто и как может использовать систему распознавания лиц (хотя в ряде штатов такая практика ограничена). Затем последовали контракты с полицейскими департаментами.
Сторонники распознавания лиц всегда превозносили ее применение в военной и правоохранительной сферах. Например, компания Clearview якобы помогла спасти ребенка, ставшего жертвой сексуального насилия, распознав преступника на зернистом фоне фотографии в Instagram, что привело полицию к его местонахождению. Но обнародование таких морально черно-белых историй имеет очевидное риторическое преимущество. Как сказал Хиллу один из офицеров полиции Нью-Йорка, «если речь идет об эксплуатации детей или похищении, вы же не скажете, что у нас есть хорошая фотография этого парня и есть система, которая может его идентифицировать, но из-за возможной плохой огласки мы не будем использовать ее для поиска этого парня?».
Один из возможных контраргументов заключается в том, что технология распознавания лиц — это не просто очень хорошая поисковая система по фотографиям. Это радикальное переосмысление публичной сферы. Если она получит широкое распространение, то еще больше сократит разрыв между нашей жизнью в физической реальности и цифровой. Это ироничное завершение одного из основных обещаний первых дней существования Интернета: свобода бродить без присмотра, возможность примерить на себя несколько образов и т.д. Распознавание лиц может навсегда привязать нас к нашей цифровой истории, положив конец тому, что раньше считалось привычным для человека: анонимному нахождению в обществе.
Большинство людей, вероятно, не хотят этого. Лично я, если бы у меня была возможность отказаться от того, чтобы мое изображение попало в базу данных распознавания лиц, сделал бы это категорически. Но отказаться от этого очень сложно. Несмотря на мои вполне обоснованные опасения по поводу государственной слежки, я, в общем-то, обычная дура, когда речь заходит о том, чтобы поделиться своей жизнью с техническими компаниями. Этим летом, перед рождением сына, мне вдруг очень срочно захотелось узнать, какой процент ашкеназов будет в его роду, и я передала свой ДНК в компанию 23andMe, а также свое настоящее имя и адрес (как оказалось, я сама на 99,9% ашкеназ). Это лишь один из примеров того, сколь доступны мои данные в интернете. Сотни раз в день я разблокирую свой iPhone с помощью лица. Мое изображение и имя связаны с моими аккаунтами в X (бывший Twitter), Uber, Lyft и Venmo. Google хранит мою личную и профессиональную переписку. Если мы движемся к будущему, в котором собака-робот сможет встретить меня на улице и мгновенно связать мое лицо с моим семейным древом, кредитным рейтингом и друзьями в Интернете, считайте, что я в ужасе, но я не могу утверждать, что в шоке: я уже предоставила данные для этого кошмарного сценария в обмен на свои драгоценные потребительские удобства.
В своей книге «Наше биометрическое будущее», вышедшей в 2011 г., исследователь Келли Гейтс отметила неконсенсуальный аспект технологии распознавания лиц. Даже если вам не нравится, что у вас снимают отпечатки пальцев, вы знаете, когда это происходит, в то время как камеры могут тайно снимать вас на спортивных соревнованиях или на улице. Это может сделать распознавание лиц более проблематичным с этической точки зрения, чем сбор других биометрических данных. Чего Гейтс не могла предвидеть, так это того, как социальные сети еще больше запутают этот вопрос, поскольку согласие теперь происходит поэтапно: мы отдаем снимки в Instagram и TikTok, предполагая, что они не будут использованы ФБР, но не зная, могут ли они быть использованы, а тем временем пользуемся удобными функциями, такими как сортировка фотографий в Apple Photos по тому, кто из друзей на них изображен. Более мягкое применение технологии уже широко распространено в повседневной жизни.
После того как Хилл разоблачил компанию, он решил не упускать возможности огласки, пригласив ее на демонстрацию продуктов, а затем разместив ее статьи в разделе «СМИ» на своем сайте. Это свидетельствует о самоуверенности Clearview в том, что возражения против неприкосновенности частной жизни могут быть преодолены. История показывает, что такая уверенность может быть небезосновательной. В конце 1910-х годов, когда появились фотографии на паспорт, многие американцы возмущались, поскольку этот процесс напоминал им фотосъемку подозреваемых. Сегодня же никто не задумывается о том, чтобы пойти на почту и сфотографироваться на паспорт. Хотя репортаж Хилла привел к судебному иску ACLU, который не позволил Clearview продавать свои технологии частным корпорациям и лицам, компания утверждает, что у нее есть тысячи контрактов с правоохранительными органами, включая ФБР, что позволит ей держаться на плаву, пока она решает, что делать дальше.
Крупнейшие компании Кремниевой долины не спешат внедрять систему распознавания лиц на коммерческой основе. Ограничение заключается не в технологии; если компания Ton-That смогла создать Clearview буквально с помощью «Гугла» то можно быть уверенным, что Google сможет создать лучший продукт. Устаревшие компании утверждают, что их сдерживают этические принципы. Google утверждает, что решение не выкладывать FRT общего назначения в открытый доступ было принято потому, что компания хотела проработать «политические и технические вопросы». Amazon, Facebook и IBM сделали неопределенные заявления о том, что они отказались от исследований распознавания лиц из-за опасений по поводу конфиденциальности, неправильного использования и даже расовой предвзятости, поскольку технология может быть менее точной на темнокожих лицах, чем на светлокожих (у меня есть циничное подозрение, что опасения фирм по поводу расовой предвзятости являются лукавством. Как только проблема расовой предвзятости будет решена путем обучения нейронных сетей на большем количестве черных и азиатских лиц, расширение системы слежки будет представлено как победа в борьбе за гражданские права).
Теперь, когда Clearview открыто продает технологии распознавания лиц полицейским департаментам, мы увидим, так ли твердо держатся за свои угрызения совести старые компании. Возможно, что в условиях, когда на ранних этапах развития компании принимают на себя весь шум СМИ и все судебные иски, они решат, что настало время вступить в гонку. Если они это сделают, то следующее поколение технологий распознавания лиц будет совершенствоваться по сравнению с первым, а океан изображений станет еще глубже. Как сказал один детектив Хилл, «это поколение публикует все. Очень удобно для работы полиции».
Оригинал: The Atlantic
