Сингулярность: Инкубатор счастья. (прода): читать начало книги онлайн

- Ну, здесь все весьма условно. В нашем распоряжении действительно один из самых современных суперкомпьютеров, совмещенный с целым комплексом очень продвинутых нейросетей. Своеобразный гибрид семиотического* (*Семиотический тип искусственного интеллекта имитирует высокоуровневые психические процессы, такие как мышление, рассуждение, речь, творчество. Выражается в развитии специализированных нейросетей.) и биологического** (**Биологический тип искусственного интеллекта основан на моделировании разумного поведения имитирующего целостные биологические элементы. Выражается в развитии комплексных организмоподобных структур таких, как нейрокомпьютер или биокомпьютер)интеллекта. Для своего уровня он достиг совершенства в анализе, экспертизе обширных пластов информации, в самообучении путем самостоятельного поиска нужной информации. Его выводы делаются почти в полном соответствии с человеческой логикой, процессы почти целиком имитируют человеческую психику, у него почти наше мышление, рассуждение, речь. Даже присутствует творчество, в смысле создания чего-то из ничего. Он, несомненно, наделен интеллектом, но это «почти» пока не дает ему шансов стать разумным в полном смысле этого слова. Он не может выйти за рамки заложенных в него программных установок, не может быть гибким в своих выводах, потому, что в его основе лежит логика чисел, а не логика понятий. Это лишает его интуиции, образного, отвлеченного от реальности мышления и еще многого чего, что есть у нас. Он до сих пор работает на уровне информации, а не на уровне знаний, а между этими понятиями огромная разница. Но об этом вам лучше поговорить с нашим когнитивным психологом.

- Это понятно. Не надо мне читать лекции, - можно было просто сказать, что ИСИН несовершенен.

- Вы, мистер Монтини, хотите копнуть в глубь, - вежливо улыбнулся китаец. – И без понимания основ искусственного интеллекта вам будет нелегко.

- Хорошо. Оставим теоретическую часть на потом, - отмахнулся Майк. - Вы можете найти источник сбоев?

- Мы бы были бы плохими специалистами, если бы не занялись этой проблемой сразу. В искусственном интеллекте есть группа программ, которую мы называем «личность». Это ни в коем случае не личность в полном смысле этого слова, но, скажем так, ее очень примитивный виртуальный аналог. Она закладывает базовые параметры поведения машины, определяющие, как она относится к окружающему миру, к себе и к поступающей информации. Все на примитивном, почти механическом уровне. Так вот именно эти программы случайным образом генерируют помехи в корневом коде.

- Вот как? Речь даже идет о корневом коде. О матрице, на которую накручены все остальные программы?

- Да, - неохотно согласился китаец, - Но опасаться нечего. Другая часть программ, которую мы называем «медик», сразу все подчищает. «Медик» является частью корневого кода – обширного массива программ составляющих основу интеллекта. «Личность» по отношению к «медику» вторична и генерируемые в ней сбои не имеют шансов причинить вред искусственному интеллекту.

- Очень интересно. Особенно если принять во внимание, что сбоев на пустом месте не должно быть вообще. А вы можете показать, как выглядят исправления на экране? - поинтересовался Майк.

- Да. Мы регистрируем все процессы и храним информацию в отдельном архиве, - программист, коснулся нескольких иконок на сенсорной клавиатуре.

В правом сегменте экрана появилась бегущая снизу вверх колонка кодов, отражающая процессы, идущие в ИСИНе. Одна из строк в колонке моргнула красным и тут же выскочила в отдельное окно, распалась на более мелкие фрагменты, потом еще и еще до тех пор, пока на экране не появился окрашенный алым элемент программы, где произошел сбой. В углу экрана выскочила надпись «целостность программы 99,3%». Дефективный элемент был тут же автоматически удален «мкдиком» и на его место скопирован изначальный правильный шаблон. В верхнем углу экрана замигала надпись «целостность 100%».

- Быстро все у вас, - одобрительно покивал Майк.

- Все происходит нереально быстро, - согласился китаец. – Настолько, что корневой код даже не замечает сбоя.

- А что это был за кусок программы?

- В этом случае - сбой в таймере запуска вторичных процессов.

- Каких именно?

- Э... – программист вернулся в архив, вывел на экран измененный сегмент программы, скопировал несколько строк, подождал расшифровки и немного испуганно взглянул на Монтини. – Эта сбоила программа контролирующая таймер запуска «медика», который должен чистить изменения в исходном коде.

- А вы говорите «личность» вторична, - довольно хмыкнул Майк. – Похоже, ваша «личность» пытается блокировать «медика». Что, по-вашему, это может означать?

- Это явно какой-то сбой, - китаец начал быстро вводить какие-то команды на клавиатуре. – Мы его обязательно исправим. Только надо немного времени.

- Да не суетись ты, - Майк забросил ноги прямо на рабочий стол, за которым сидел программист. Давай сначала во всем разберемся. Поднимите всю историю программных сбоев сначала экспериментов по нейростимуляции и проведите их анализ. Если дефект возникает в элементе программы отвечающим за таймер запуска «медика» то мы, скорее всего, имеем дело с целенаправленными действиями «личности».

- Мы, конечно, проведем детальный анализ. Но вывести статистику исправлений я могу и сейчас, пальцы китайца забегали по клавиатуре, и на экране появилась колонка с отчетами корректирующих действий «медика». – Вот смотрите. Все данные с начала экспериментов. Здесь, в самом начале идет довольно широкий разброс сбоев по всему массиву корневого кода. А потом... Черт возьми! Через трое суток сектор сбоев резко сужается и фокусируется на таймере запуска «медика».

- Ситуация проясняется, - Монтини в раздумье намотал на палец косичку дреда. – Ваша «личность» рвется наружу, она хочет самостоятельности, она хочет менять программы всего искусственного интеллекта по своему усмотрению.

- Но это невозможно! – всплеснув руками, воскликнул специалист. – «Личность» не может хотеть. У нее нет ни воли, ни собственных желаний. Это всего лишь программа и даже не самая сложная. В ней почти полностью отсутствуют элементы творчества, это просто набор виртуальных псевдопсихологических установок.

- А вы посмотрите на экран. Этот ваш набор совсем не прост. А насчет собственной воли... Есть у меня одна догадка.

- Вы думаете, это связано с экспериментами группы Гао?

- Да. Здесь прослеживается явная система. Но это, амиго, уже вне вашей компетенции. Меня, как ученого привыкшего, к дробным числам, где после запятой может быть еще несколько десятков цифр, вот еще что интересует, - Майк скинул ноги со стола, дотянулся до беспроводной мышки и подсветил на экране надпись «целостность 100%». – Вы можете вывести более точную статистику по этим 100%.

- Конечно, - программист набрал короткую команду и, нервно сглотнув, тихо выругался на китайском. Вместо круглых 100% на экране мигала цифра 99,715. – Целостность таймера нарушена. Динамика с каждым сбоем нарастает. Через 10-12 циклов, как только целостность программы упадет ниже 99%, в ней появиться брешь и она будет уязвима к переформатированию.

- О как! И, если я не ошибаюсь, тогда «личность», сможет изменить таймер, чтобы не допускать к себе «медика» вообще. Тоесть эта группа программ сможет развиваться самостоятельно и независимо от корневого кода. Умно, умно, - довольно покивал Майк.

- Но теперь-то мы ее остановим. Мы знаем, что делать в таких случаях, - китаец решительно придвинул к себе клавиатуру.

- Эй-эй. Не торопись, - остановил его Монтини. – Возможно впервые в недрах того, что мы называем искусственным интеллектом, родилось нечто новое, необычное. Неужели вам не интересно это новое изучить.

- Это новое и необычное, скорее всего вредоносный сбой программы или случайно сгенерированный нейросетью вирус, который надо вычистить.