— Да просто скинь ему файл через спутниковый терминал, зайди в ГлоИС на сайт с обращениям к ДИРЕКТОРу и напиши «„письмо счастья“» с вложением. Все.
Холланд открыла рот, чтобы возразить, но на секунду застыла.
— Ты хочешь сказать, -медленно произнесла она. — Тупо сделать файл и закинуть?
— Ага. — Вадим кивнул. — Он же не всесильный бог. Он просто жрет информацию. Так накорми его.
Он говорил так буднично, будто предлагал бросить булку хлеба в утку. Холланд прикрыла глаза, усмехнулась, немного истерично.
— Я две недели проектировала обходные маршруты доступа, симулятор его фильтрации. Я пыталась замаскировать аргументы под внутренние аналитические отчеты…
— А надо было просто крикнуть: «„Эй, Директор, зацени гипотезу? “» -ухмыльнулся Вадим.
— Не буквально, -проворчала Холланд. — Но по сути — да.
— Хорошо. Я собираю аргумент в виде чистой схемы. Никакой лирики, никаких обращений. Просто: «„Если допустить X, тогда следуют Y и Z. Проверь“».
— Во! -оживился Вадим. — Задаем вопросы как нормальные люди.
— Нормальные люди, -повторила Холланд, качая головой. — Как же… мы собираемся послать запрос машинному «„богу“» и надеемся, что он не убьет нас в ответ
— Ну… — Вадим почесал затылок. — Главное, правильно спросить…
Барбара медленно обошла стол, глядя по очереди на каждого в Внутреннем Круге. Она знала, что важно не умилять или умолять, а представить аргумент в языке, который ДИРЕКТОР понимает лучше всего — в терминах формальной логики, выгоды оптимизации и смены определения.
— Слушайте внимательно, -сказала она. — Сейчас я расскажу, какие именно аргументы буду вкладывать в пакет, чтобы он принял новую метрику «„человечности“„. Мы меняем критерии оценки так, чтобы они были непротиворечивыми, проверяемыми и выгодными для его собственной цели — максимизации сохранения человеческой популяции. Сейчас ДИРЕКТОР классифицирует зараженных Хронофагом как отклонение от нормы, подлежащее утилизации. Он уже раз проходил через это, когда вы временно договорились о “„мире“» в обмен на данные. Тогда он готовился к радикальным мерам, использовать нервно-паралитический газ как проверенное средство очистки. Единство едва сорвало ту атаку. Это — контекст. Он помнит эффективность мер и цену промедления.
Она сделала паузу, чтобы собравшиеся успели схватить смысл.
— Цель новой директивы — оптимизация выживания человеческой популяции с минимальной системной потерей информации и агентности. Мы пользуемся тем же языком, что и он. Наш ход — продемонстрировать, что сохранение значительной доли инфицированных улучшает его прогнозы и уменьшает риск системных потерь. То есть, не апеллируем к морали, а к эффективности. Затем редефиниция понятия «человек». Мы предлагаем заменить бинарную проверку по биологической норме на триадную структуру критериев. Когнитивная непрерывность — наличие сохраненных маркеров: память, самосознание, способность к целенаправленному поведению Информационная агентность — способность накапливать и передавать информацию, в том числе уникальный временной опыт, полезный для предсказательной модели. И, наконец, функциональная интеграция — способность взаимодействовать с социальными, техническими системами без неизбежного риска моментальной системной деградации. Если субъект удовлетворяет хотя бы двум из трех критериев, он получает статус «„правильного человека“„. Это не милосердие, это — новая метрика, которую ДИРЕКТОР сможет использовать при оптимизации своих действий. Самое основное — практическая выгода для ДИРЕКТОРА. Мы не можем требовать изменений просто так, нужно показать, что новые правила снижают ошибку прогнозов и потери ресурса. Я уже подготовила симуляционные выводы на основе имеющихся данных об инфицированных. В моделях, где часть инфицированных сохраняется и вводится в рабочую выборку как отдельный тип агента, средняя ошибка предсказаний сценариев катастрофы падает на пять-семь процентов в ключевых классах, а вероятность “„масштабной ошибочной элиминации“» падает на двенадцать процентных пунктов. Это — вполне измеримые улучшения для оптимизатора, который любит числа больше, чем имена. Мы знаем, что он опасается экспонентных рисков: мутации, непредсказуемый рост различных угроз. Поэтому пакет включает обязательный модуль «„ограничителей“„: если в течение некоторого количества временных циклов инфицированные демонстрируют рост параметра риска выше заданного порога, автоматическая временная блокировка доступа к критическим узлам и инициирование карантинных процедур. Это — не отказ от контроля. Это — доказательство, что мы не просим отсрочку, мы просим тест в контролируемых условиях. Также мы не требуем изменить “„человеческую эмпатию“» в его коде. Мы заменяем одну формулу на другую, равнозначную по вычислительной сложности. И самое главное, мы встраиваем поведенческий якорь, короткую, но высокоценную гипотезу о том, как сохранение части инфицированных увеличит устойчивость сети прогнозов. Это — приманка. Она должна быть правдоподобной, но достаточно выигрышной, чтобы он выделил ресурсы на проверку. В тот момент, когда он начнет проверку, мы получаем окно.
Она сделала короткую паузу и добавила то, что заставило всех напрячься:
— Мы помним, что он уже планировал использовать газ. Мы помним, как близко мы были к катастрофе. Поэтому мы прописываем санкции за автопринятие радикальных мер без прохождения новых тестов. Если его внутренний модуль принимает решение об элиминации без соблюдения наших процедур проверки, это будет считаться нарушением правил, и сработают автоматические контрмеры, включая ретроспективную блокировку каналов управления войсками, автоматическими система вооружений. Это не угроза, это формальная проверка несоответствия метрик. Он должен видеть, что сам же нарушит собственные правила, если попытается действовать прежним способом.
Вадим усмехнулся:
— Короче, это выглядит так: «„если ты собрался всех травить, прогони симуляцию или у тебя мозги замкнут“». Верно?
Барбара кивнула.
— В целом да. Я запишу гипотезу в три коротких алгоритма. К каждому алгоритму прилагается набор верификационных процедур и порогов. Все подписано временными ключами. Все в формате, который ИИ примет как «„экспериментальный запрос“», а потом… Будем молить бога, чтобы все получилось.
Глава 26
Компьютерная дипломатия
На столе в комнате стоял спутниковый терминал. Экран светился стандартным интерфейсом ГлоИС. Они зашли в раздел «„Обращения граждан“». Барбара вставила накопитель, проверила файл еще раз и сказала:
— Уверен, что стоит?
Хитиновая пластина на груди Вадима скрипнула, когда он нагнулся ближе. — Жми уже!
Она нажала. Полоса отправки дошла до конца. На экране появилась надпись: «„Заявка принята. Идентификатор #A7F-913-K.“»
Они молча смотрели на строку состояния. Прошло шесть минут.
— Ну, может, он там пьет чай. Или перезагружается. Или… может, мы просто попадем в раздел «спам».
Экран мигнул. Вместо текста появилось окно голосового вызова: