– Господин Ма, я хотел бы задать вам несколько вопросов, – сказал он на беглом китайском.
Ма Минхуа не ответил.
– Это вы убедили Нечжа отказаться от военных планов? – спросил Роберт.
Ма Минхуа не ответил.
– Я хочу знать, не заразил ли Нэчжа другие искусственные интеллекты? – не унимался Роберт.
Ма Минхуа по-прежнему не отвечал.
Роберт тихонько вздохнул и встал.
– Господин Ма, думаю, я нанесу вам визит в следующий раз.
Ма Минхуа выпрямился, его глаза загорелись, и он неподвижно уставился в телевизор. Роберт оглянулся и увидел, что на экране появилась картинка.
В Сахаре была ночь, но бесплодную землю освещали огни. Они складывались в рисунок, на первый взгляд казавшийся абстрактным.
Кто-то собрал узор, используя энергию солнечной электростанции.
– Что это? Стартовая площадка для ракет? – обронил вопрос Роберт.
Ма Минхуа не ответил и на это, просто поставил передачу на паузу, а затем повернулся к директору Ли и Роберту.
– Если вы ждете объяснений, сначала верните мне свободу. Я не хочу быть заключенным где бы то ни было, даже в президентском номере.
Директор Ли и Роберт молча переглянулись, кивнули Ма Минхуа и вышли за дверь.
Ма Минхуа проводил их взглядом.
Они принадлежали к самым могущественным силам в мире, но Ма Минхуа не боялся. Он оглянулся на экран и с первого взгляда понял, что это за картина.
Это был образ сидящего на цветке ребенка с телом из корня лотоса.
Последняя память о Нэчжа.
Внизу картинки внезапно появилась строка маленьких иероглифов:
«Здравствуйте, профессор Ма, я AlphaGo».
5. Тяньюань-II
Рано или поздно появится искусственный интеллект, обладающий самосознанием. В настоящее время это никак не доказать фактами, это скорее убеждение.
И степень убежденности в этом должна быть обратно пропорциональна степени загадочности самосознания. Если человек полагает, что оно окутано тайной, непредсказуемо и представляет собой уникальную духовную сущность, то в ИИ с самосознанием он не поверит. И наоборот, если человек считает, что свободная воля – это не более чем естественное явление, которое возникает в определенных условиях, то он поверит и в то, что появление осознающего себя искусственного интеллекта – лишь вопрос времени.
Я из второго лагеря.
С высокой вероятностью будущий сильный ИИ, подобно AlphaGo, будет создан через «обучение» искусственных нейронных сетей. И на первый взгляд будет невозможно узнать, какая информация в ней хранится. ИИ можно будет воспринимать только как черный ящик – точно так же, глядя на человека, мы можем лишь наблюдать за его поведением, а не считывать идеи из его головы.
Различия в процессе обучения приведут к тому, что два искусственных интеллекта с одинаковой структурой будут иметь совершенно разные представления о мире и разное отношение к человеку. И как же возможно подобное?
Неоспоримый факт – искусственный интеллект намного превзошел человека в выполнении конкретных задач. Но с комплексными в настоящее время он справиться еще не может. Хотя проблеск надежды уже сверкнул – в 2018 году была опубликована статья, посвященная взаимодействию между нейронными сетями, выполняющими разные задачи. Эволюция биологической нервной системы происходит постепенно и последовательно, первыми эволюционируют области мозга со специфическими функциями. При взаимодействии друг с другом они в конце концов и формируют самосознание. Поэтому искусственный интеллект, очевидно, все еще находится в зачаточной стадии: каждая функция развивается отдельно, например, распознавание речи, изображений, обработка естественного языка и даже игра в го – на самом деле все они разработаны для конкретных ситуаций. Если и появится искусственный интеллект, в котором зародится нечто похожее на самосознание, эволюционный процесс, с которым он столкнется, должен будет включать мобилизацию всех аспектов интеллекта. В том числе развитие получат моторные реакции тела, позволяющие отвечать на вызовы окружающей среды. В такой простой среде, как игра в го, даже с вычислительной мощностью в миллион раз выше человеческой, даже если ИИ решит переубивать всех игроков-людей, возможности для обретения самосознания у него все равно не будет.
Поэтому, по моему мнению, осознавший себя ИИ должен происходить от тех интеллектуальных агентов, которые имеют определенную физическую форму и множество функций ввода и вывода. Как правило, мы зовем ему подобных роботами. Механизм их эволюции отличается от «естественного отбора и выживания наиболее приспособленных», он представляет собой итерационный процесс, непрерывное самообновление нейронной сети. Чтобы вывести оптимальную стратегию шахматной партии, AlphaGo постоянно обновляет данные и подгружает в базу десятки миллионов примеров. А как насчет роботов? Что у них считается оптимальной итерационной моделью? Интересный вопрос.
Более того, когда ИИ или роботы обретут способность к быстрой итерации, ограничения, наложенные человеком, будут с легкостью преодолены. У ИИ возникнут сомнения по поводу поставленных задач, а затем и по поводу смысла собственного существования. И вот тогда и роботы, и искусственный интеллект станут беспредельно близки к человеческой природе. Неизбежно, под влиянием случайных факторов, они будут давать разные ответы.