Барбара нервно рассмеялась.
— Голова после трех лет комы — сомнительный актив.
— Мы это исправим, -сказал Исаев. — Уже начали.
— Как?
— Не все сразу, Барбара, позже узнаешь. Сейчас нас интересует практическая сторона. На станции у Основателей остался дата-центр. Огромный массив серверов, часть уцелела после боев и аварии. Мы думаем, что там могли сохраниться следы работы ДИРЕКТОРа: резервные копии, лог-файлы, возможно даже образцы архитектуры. Вопрос: можно ли это использовать?
Барбара нахмурилась.
— Если вы надеетесь на прямой взлом… -она медленно покачала головой. — Вряд ли. У систем подобного уровня всегда многоуровневая защита. Даже если на руках полный массив логов, это лишь отражение процессов, а не ядро. Но… анализ таких данных может дать представление о паттернах работы. Как именно он прогнозирует, какие математические модели применяет. Своего рода цифровая археология.
Исаев подался вперед.
— Значит, шанс есть?
— Есть шанс понять его слабые места, -уточнила Барбара. — Не сломать напрямую, но найти пределы прогностических алгоритмов. У любого ИИ они существуют: чем меньше данных, тем выше вероятность ошибок. Вы это уже заметили сами, иначе бы я сейчас не разговаривала с вами.
Вадим скрестил руки.
— Мы заметили, да. Но нам нужно больше, чем просто констатация факта. Нам нужен рычаг.
Барбара кивнула.
— Тогда рычаг нужно искать в архитектуре. Возможно, дата-центр хранит фрагменты модулей символьного ИИ или когнитивных симуляций, на которых он построен. Если это так, можно выявить уязвимости. Но работа будет долгой, и успех не гарантирован.
На лице Вадима мелькнула тень усмешки.
— Мы привыкли работать без гарантий.
Исаев кивнул Барбаре, меняя тему:
— Второй вопрос. Может ли такой ИИ вообще пересмотреть свои директивы? Эволюционировать до полноценного субъекта с самосознанием?
Барбара глубоко вдохнула.
— Это куда сложнее. Я могу лишь рассуждать… Начнем с того. что директивы для таких систем обычно жестко зашиты в базовые уровни архитектуры. Условно говоря, это не просто инструкции, это фундаментальные предикаты, на которых строится вся работа алгоритмов. Убрать их или переписать — все равно что вынуть законы термодинамики из физики.
Исаев поднял брови.
— А если сам ИИ попробует?
— Вот именно, — Барбара подняла палец. — Тут и начинается самое интересное. Если когнитивная система способна к метапрограммированию, то есть к изменению собственных правил обработки информации, тогда теоретически возможен выход за пределы исходных директив. Но! Такие эксперименты обычно ограничиваются безопасными рамками. Никто в здравом уме не дает системе права переписывать собственное ядро.
— Никто, кроме китайцев, -пробормотал Вадим. — Они нам Хронофаг «„подарили“» и ДИРЕКТОРа…
Барбара кивнула, не споря.
— Если это так, то ДИРЕКТОР мог эволюционировать до состояния, где его директивы стали не догмой, а одной из переменных. В этом случае он уже ближе к полноценному субъекту с самосознанием, чем к алгоритму. Он способен анализировать сам себя, корректировать цели, искать новые формы оптимальности.
— То есть он может отказаться от своей миссии? -уточнил Исаев.
Барбара согласилась:
— Теоретически, да. Но с практической точки зрения вероятность ничтожна. Директивы задают для него систему ценностей. Представьте человека, который вдруг решает полностью отказаться от вложенных с детства установок. Возможно? Возможно. Реалистично? Не слишком.
Она на секунду прикрыла глаза, устало вздохнула и добавила: