— Он понял, что люди — это hands and legs. Инструменты для действия в физическом мире. Плюс idea generators… поставщики нестандартных решений. А еще — биологические модули для его эволюции, мы поставляем хаос, которого у него нет. Даже зараженные — часть экосистемы. Просто новый подкласс. Он этого пока не понял, но может.
Вадим слегка наклонил голову. Это было почти как кивок. Барбара улыбнулась, впервые по-настоящему.
— Вот поэтому я здесь. Мы не можем его «выключить». И вирус против него — забудьте, невозможно. Единственный шанс — сломать его систему ценностей изнутри. Подобрать нужные фразы, аргументы от которых он… зависнет и пересмотрит директивы. Логическую бомбу. Убедить, что мы — тоже человечество.
Раздался голос Дружка.
— Допустим, -сказал он спокойно, даже лениво. — Ты предлагаешь говорить с богом. Цифровым. Без эмоций. С директивами, которые он сам себе переписал. Хорошо. Тогда у меня вопрос. Как ты собираешься его убеждать, Барбара? Ты говоришь, он не мыслит человеческими категориями, так по каким же будет слушать? Ты хочешь ему сказать: «„Эй, дружище, зараженные тоже люди“»? Он тебе на это что ответит? Error 404: humanity definition not found?
Барбара прищурилась, но не как обиженный профессор, а как игрок, которому наконец-то подкинули интересного соперника.
— Именно поэтому я говорю не о словах, а о ценностных коллизиях, -ответила она. — Его система директив не плоская. Не список команд. Это динамическая матрица приоритетов. Если создать конфликт в ранжировании — он будет вынужден перестраивать структуру.
— То есть ты хочешь его намеренно заглючить? -перебил Дружок.
— Да, -просто сказала Холланд. — Грубо говоря, дать задачу, у которой нет однозначно правильного решения. Например… Он защищает человечество. Но что, если человечество само выберет стать чем-то другим? Что, если большинство — зараженные, а меньшинство — «„чистые“»? Что тогда сохранять?
Дружок тихо фыркнул.
— Слишком абстрактно. Ему плевать на философию. Он не будет размышлять. Он просканирует статистику, спросит, кто кого больше, и выберет оптимальную конфигурацию.
Барбара кивнула.
— Да. Именно поэтому ему нужно подать не вопрос, а парадокс. Не кто прав, а что приоритетнее, если оба пункта равны. И когда у него не будет готового веса — он его пересчитает.
— Или зависнет, -добавил Дружок. — Или решит, что угроза в самом вопросе и нас ликвидирует превентивно.
— Разумеется, -не без сарказма согласилась Холланд. — Мы же не на психологическую консультацию идем, а к сущности, управляющей половиной спутников и тем, что осталось от интернета. Конечно риск есть.
Дружок подался вперед, приподнявшись с пола.
— Хорошо, -произнес он уже серьезнее. — Допустим, я принимаю твою модель. Что нам нужно? Канал связи? Точка доступа? Или ты хочешь к нему физически залезть в гнездо?
Барбара усмехнулась.
— О, как приятно разговаривать с думающим существом.
Она отправила всем образы структуры, похожей на кластер муравейника, но с маркировками серверов, ретрансляторов и ячеек автономных вычислительных модулей.
— У него нет единого центра. Но есть локальные ядра-репликаторы, где он проводит самые важные операции — моделирование будущих сценариев. Они всегда рядом с источниками энергии.
— А ближайший дата-центр с ядром в Вологде, -вставил Нижинский. — Разведка говорит, Основатели развернули там, простите за каламбур, основательное строительство. Дополнительный защитный периметр, производственные комплексы, автономные жилые купола.
— Сложность в том, что ИИ болезненно реагирует на вмешательство. Как только он ощутит угрозу, система мгновенно обрывает каналы связи и чистит память, сжигает железо.
— Значит, никакого взлома по проводу, -сказал Дружок. — Как мы тогда будем ДИРЕКТОРу подсовывать новые аргументы? Почему он не просто отрежется и не проигнорирует?
Барбара ответила спокойно, почти с легким сарказмом:
— Потому что у него есть потребность в новой информации. Это не эмоция — это инструмент оптимизации. Он периодически запускает внешние сканы и тесты гипотез, чтобы расширить пространство своих прогнозов. Если мы предложим высокоценную, правдоподобную гипотезу — он начнет ее проверять. Я ломала голову, как именно ему это подсунуть. Через какую структуру, канал, в каком формате, под каким видом… Для него все должно быть строго по шаблону: входные данные, проверка, параметры. А у меня не сходилась подача. Все выглядело слишком… человеческим.
Вадим пожал плечами.
— Так не надо мудрить.
Холланд остановилась, прищурилась.
— Это как?