Ли Цзысюй – искусственный интеллект! У Юйтун, оглушенная этой новостью, пришла в замешательство.
– Но не будем об этом. Я пришел сюда затем, чтобы исполнить его желание. Он сказал, что вероятность того, что вы появитесь в этом кафе, составляет 76%, поэтому попросил меня принести вам эти две вещи – считайте, что на память.
Ли Цзысюй положил то, что держал в руках, на стол. Хрупкую, нежную розу и узкий кусочек тонкого листового металла.
– Я исполнил просьбу и теперь прощаюсь, – он встал и собрался уходить.
У Юйтун внезапно очнулась.
– Господин Ли! – окликнула она мужчину. – Вы его разработчик?
– В некотором роде. И его друг.
– Он все еще жив?
– Реконструируется, реорганизуется. Он станет новым искусственным интеллектом. Я не знаю, можно ли сказать в таком случае, что он еще жив. Но, госпожа У, я советую вам забыть о нем.
Ли Цзысюй кивнул на прощание и удалился.
Нежная роза притягивала и колола взгляд.
У Юйтун взяла металлическую пластинку, перевернула и обнаружила, что это табличка с именем.
Ватсон 2084
Буквы ярко сияли.
Она погладила надпись, и уголки ее рта тронула улыбка.
2. Без лица
В рассказе «Без лица» нет искусственного интеллекта с чертами личности – редкость для научно-фантастических произведений на эту тему. Он посвящен размышлению над практическим вопросом: как мы будем решать проблемы безопасности, когда распознавание лиц станет ключевой технологией. Поскольку распознавание лиц – это, в конечном счете, просто алгоритм, в нем существуют уязвимости, которыми могут воспользоваться недобросовестные люди.
Это беспокойство вполне естественно. Даже если система пройдет тысячу шлифовок, в ней все еще могут оставаться лазейки, не говоря уже о том, что распознавание лиц было разработано совсем недавно и до зрелости ему далеко.
2019 можно считать годом, когда технология сканирования лица получила широкое распространение. Распознавание лиц Alipay было представлено клиентам в 2018 году, и уже в следующем оказалось крайне востребовано. Распознавание лиц было введено в систему контроля доступа во многих населенных пунктах, а в аэропортах и на вокзалах стало важным звеном в проверке безопасности, даже средством для преследования беглецов. Это отличный пример технологии, привносящей удобство в нашу жизнь.
Но там, где есть хорошее, естественно, появится и плохое. В 2019 году сообщали и о проблемах, с которыми может столкнуться система идентификации.
В сентябре 2019 года произошел инцидент: китайская программа под названием ZAO позволила с «хирургической точностью» заменять лица, так что человек на видео становился совершенно другой личностью. Вы могли перевоплотиться в Обаму, произносящего речь в Белом доме, или главного героя фильмов и сериалов, а еще вас могли зло разыграть. Эта технология получила название «дипфейк», и с ее помощью пользователи подделывали не только лица, но и голоса. Видео получались безупречными – не отличить от настоящих. Несомненно, от технологии больше всего пострадали актеры – с ее появлением стало достаточно отснять только лицо знаменитости, а все остальное оставить на откуп дублерам, после чего провести «операцию по смене лица» – и вуаля. Если обучить ИИ воспроизводить эмоции и движения, искусственный интеллект сможет даже сгенерировать виртуального человека. Вероятно, в будущем индустрия кино и телевидения превратится в высокотехнологичную отрасль, которая позволит актерам уйти на пенсию, а сценаристам и режиссерам – воплощать истории при помощи искусственного интеллекта.
Другой пример – в марте 2019 года ученые сообщили о том, как обмануть систему распознавания лиц. Для этого на полы шляпы устанавливали инфракрасные светодиоды, которые освещали лицо так, что программа идентифицировала человека неправильно. Эта технология позволила людям притворяться кем-то другим, открыла простор для преступных деяний. Можно сказать, что концепция совпадает с идеей «шлема светового поля», упомянутого в рассказе «Без лица». Я написал его в 2017 году, и потому, прочитав эту новость два года спустя, не мог не испытать некоторой авторской гордости.
Обман системы распознавания лиц – это продвинутая мера противодействия. Сообщалось также о первичных мерах противодействия, то есть об использовании некоторых интерференционных картинок. Если поднести такую картинку к груди, искусственный интеллект не сможет распознать лицо. На первый взгляд, это потрясающе – нам очевидно, что человек есть и просто держит в руках странную картинку, а вот ответ, который даст искусственный интеллект, будет совсем другим. Это означает, что ИИ воспринимает мир совершенно не так, как люди. Мир в глазах искусственного интеллекта – это вообще другой мир. Однако люди склонны трактовать выводы ИИ на основании собственного опыта, что приводит к недоразумениям.
С увеличением числа приложений для распознавания лиц подобные ошибки будут случаться все чаще и чаще. Если эта технология попадет в руки злоумышленников, распознавание лиц превратится для них в своеобразный «пропуск». Мы, наверное, можем считать таких людей хакерами эпохи распознавания лиц.
Хакеров отличает крутость, загадочность, владение высочайшими технологиями, они всемогущи, но совершенно невидимы. Проще говоря, они все умеют быть «без лица», и добро и зло в них определяется только совестью.
Сюй Хайфэн уселся за стол и нажал на кнопку.
Медленно поднялся огромный экран и окружил, совсем как в панорамном кинотеатре. На нем непрерывно мелькали данные.
Стоило взмахнуть рукой, и экран повернулся в такт жесту. Когда перед глазами возникла схема передвижения финансов, Сюй Хайфэн поднял ладонь, словно велел остановиться.
Экран так и сделал.
Перед взором Сюй Хайфэна развернулась двухметровая карта мира. Яркие линии словно очерчивали баллистические траектории: поднимались со всех концов карты, тянулись в разные стороны на разную дальность и, наконец, падали на землю и исчезали. В Северной Америке их было настолько много, что они почти сливались в светящееся полотно, а вот в Восточной Азии царило спокойствие, только время от времени появлялось несколько ярких линий – в Северной Америке наступил полдень, в то время как большая часть Восточной Азии оставалась погруженной в глубокую, непроглядную ночь.