Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens: читать книгу онлайн полностью и бесплатно

Заметив неспособность Йоселя самостоятельно остановиться, рабби Лёв мог исправить дело, «подлатав программу»; в данном случае ему нужно было бы вынуть бумагу с именем Бога изо рта гиганта. В конце концов Йоселя заперли, говорят, на чердаке Староновой синагоги в Праге, и ему суждено ожить вновь перед концом света. Рабби Лёв — реальное историческое лицо — похоронен на еврейском кладбище в Праге (недалеко, надо сказать, от Франца Кафки). А миф о Йоселе настолько жив среди потомков еврейских семей Восточной Европы, что еще в прошлом веке дети заучивали стишок, который должен будет пробудить голема в конце времен.

Следы рабби Лёва можно различить на всех «потомках» голема, от очевидного «Франкенштейна» к «Властелину колец» Толкиена и к компьютеру Hal 9000 из классического фильма Стэнли Кубрика «2001. Космическая одиссея». Среди специалистов-компьютерщиков, которые консультировали Кубрика по поводу робота-человекоубийцы, были Марвин Мински и Джон Гуд. Гуд в то время только-только написал об интеллектуальном взрыве и считал, что он произойдет в ближайшие двадцать лет. Вероятно, избрание в 1995 г. в Академию киноискусства и кинотехники в связи с этим фильмом стало для него потрясением.

Судя по истории ИИ, написанной Памелой Маккордак, среди пионеров компьютерных наук и искусственного интеллекта немало тех, кто считает себя прямыми потомками рабби Лёва. Среди них Джон фон Ньюман и Марвин Мински.

И все же в каком-то смысле мы уже сумели превзойти интеллектуальный уровень любого человека при помощи технологий. Достаточно объединить человека, обладающего средним коэффициентом интеллекта, с поисковым движком Google — и получится команда, которая будет умнее человека, то есть человек с усиленным интеллектом. УИ вместо ИИ. Вернор Виндж убежден, что возможность подсоединить к человеческому мозгу устройство, которое обеспечит ему дополнительную скорость, память и интеллект, — это один из верных путей к будущему интеллектуальному взрыву.

Припомните самого умного человека среди ваших знакомых и выставьте его мысленно против гипотетической команды человека-Google в конкурсе на фактические знания и, скажем, разложение на простые множители. Команда из человека и Google выиграет без малейших усилий. В решении сложных задач человек с более мощным интеллектом, скорее всего, победит, хотя команда с участием Google, вооруженная всеми знаниями Сети, вполне может оказать достойное сопротивление.

Можно ли считать, что знания — то же самое, что интеллект? Нет, но знания — усилитель интеллекта, если интеллект, помимо всего прочего, — это способность действовать в окружающем вас мире гибко и интенсивно. Предприниматель и производитель ИИ Питер Фосс рассуждал, что если бы Аристотель обладал базой знаний Эйнштейна, он вполне мог бы выдвинуть общую теорию относительности. Поисковый движок Google, в частности, многократно повысил производительность труда в тех областях, где требуются исследования, поиск информации и составление текстов. Задачи, которые раньше требовали долгих исследований — нужно было идти в библиотеку, рыться в книгах, журналах и специализированных картотеках, разыскивать экспертов, писать или звонить им, — теперь решаются легко, быстро и дешево. Конечно, в значительной степени повышение производительности обеспечивает сам Интернет. Но в огромном океане содержащейся в нем информации можно утонуть, если не пользоваться умными инструментами для извлечения оттуда той небольшой ее части, которая вам нужна. Как Google это делает?

Разработанный Google алгоритм под названием PageRank присваивает каждому сайту в Интернете числовое значение от 0 до 10. Страничка с индексом 1 по PageRank считается вдвое «качественнее», или «авторитетнее», странички с индексом 0. Индекс 2 означает вдвое более высокое «качество», чем 1, и т. д.

«Качество» определяется по целому набору переменных. Здесь важен размер — более объемные сайты считаются более качественными, как и более старые. Много ли на страничке содержимого — слов, графики, предложений по загрузке? Если много, страничке присваивается более высокий ранг. Насколько быстро сайт работает? Сколько у него связей с качественными сайтами? Эти и другие факторы также вносят свой вклад в индекс по PageRank.

Когда вы вводите в окне поисковика слово или фразу, Google производит гипертекстовый анализ и находит наиболее релевантные для вашего запроса сайты. Гипертекстовый анализ состоит в поиске введенного слова или фразы с одновременным просмотром и оценкой содержимого страницы, включая количество и богатство использованных шрифтов, деление на страницы и положение искомых слов на сайте. Поисковик проверяет, как искомые слова используются на странице, и не забывает заглянуть на соседние странички сайта. А поскольку PageRank уже отобрал самые важные сайты из всего Интернета, то Google не обязательно оценивать таким образом всю Сеть — можно ограничиться лишь сайтами с максимальным индексом качества. В сочетании текстовый анализ и ранжирование выдают тысячи сайтов, удовлетворяющих вашему запросу, за несколько секунд, несколько миллисекунд или с той же скоростью, с какой вы печатаете запрос.

А теперь ответьте на вопрос: насколько продуктивнее сегодня работает информационная команда, чем до появления Google? Вдвое продуктивнее? Впятеро? Как сказался на нашей экономике тот факт, что значительный процент работников внезапно удвоил, утроил или еще сильнее увеличил производительность? С одной — светлой — стороны, благодаря повышению производительности труда из-за внедрения информационных технологий увеличился валовый национальный продукт. С другой — темной — стороны, этот процесс влечет за собой увольнения и безработицу, вызванные широким спектром все тех же информационных технологий, включая и Google.

Конечно, не стоит смешивать хорошее программирование и интеллект, но я бы рискнул утверждать, что система Google и ей подобные — в самом деле интеллектуальные инструменты, а не просто хитрые программы. Они освоили узкую специализацию — информационный поиск — так, что с ними не сравнится ни один человек. Более того, Google предоставляет Интернет — крупнейшее в истории человечества хранилище знаний — в полное ваше распоряжение. Причем, что очень важно, все эти знания доступны практически мгновенно, быстрее, чем когда-либо ранее (простите меня, Yahoo! Bing, Altavista, Excite, Dogpile, Hotbot и Love Calculator). Письменность часто описывают как внешнюю память. Она позволяет нам откладывать наши мысли и воспоминания для дальнейшего пересмотра и распределения. Google восполняет важные для нас аспекты интеллекта, которыми мы не располагаем и которые без него нам взять неоткуда.

Google и вы вместе и есть ИСИ.

Аналогично, наш интеллект можно серьезно усилить путем мобилизации мощных информационных технологий, к примеру, полноценного использования наших мобильных телефонов, многие из которых по вычислительной мощности сравнимы с персональными компьютерами примерно 2000 года выпуска, а в расчете на один доллар обладают в миллиард раз большей мощностью, чем вычислительные машины 1960-х. Мы, люди, мобильны, и для настоящей эффективности усилители интеллекта тоже должны быть мобильны. Интернет и другие источники знаний, не последним из которых является навигация, обретают новую мощь и глубину, когда мы получаем возможность всюду носить их с собой. Возьмите простой пример: сильно ли поможет настольный компьютер, случись вам заблудиться ночью в криминальном районе города? Готов держать пари, толку от него будет намного меньше, чем от вашего iPhone с говорящей картой и навигационной программой.

Поэтому автор журнала Technology Review, выходящего в МТИ, Эван Шварц дерзко утверждает, что мобильный телефон становится «главным инструментом человечества». Он отмечает, что в мире уже продано более пяти миллиардов аппаратов, или ненамного меньше, чем по одному на каждого человека.

Следующий шаг усиления интеллекта — поместить все усиливающее оборудование, содержащееся сегодня в смартфоне, внутрь человеческого тела — и подсоединить непосредственно к мозгу. Сегодня мы общаемся с компьютерами посредством ушей и глаз, но в будущем, пожалуй, стоит представить себе вживленные устройства, позволяющие откуда угодно связаться с облаком. Если верить автору книги «Великий переход»[31] (Big Switch) Николасу Карру, именно такое будущее видит для поискового движка один из основателей Google Ларри Пейдж.

«Идея в том, что вам не нужно больше сидеть за клавиатурой, чтобы находить информацию, — пишет Карр. — Процесс становится автоматическим, возникает что-то вроде сплава машины и разума. Ларри Пейдж говорил о сценарии, при котором вам достаточно мысленно задать вопрос, и Google тут же нашепчет ответ вам в ухо посредством сотового телефона». Возьмите, к примеру, недавний анонс очков Project Glass, позволяющих проводить Google-поиск и видеть результаты, шагая по улице, — непосредственно в поле зрения.

«Представьте себе очень близкое будущее, когда вы не будете ничего забывать, потому что компьютер всегда все помнит, — сказал бывший исполнительный директор Google Эрик Шмидт. — Вы не сможете заблудиться. Вы никогда не почувствуете одиночества». С появлением на iPhone такого способного виртуального помощника, как Siri, сделан первый шаг этого сценария. В области поиска у Siri есть одно громадное преимущество перед Google — он выдает только один ответ. Google предлагает десятки тысяч, даже миллионы вариантов, которые могут оказаться, а могут и не оказаться полезными в вашем поиске. В некоторых областях поиска — при общем поиске, поиске дороги или фирмы, составлении расписания, работе с почтой и текстом или редактировании профилей в социальных сетях — Siri пытается определить контекст и смысл запроса и дать вам один-единственный наилучший ответ. Не говоря уже о том, что Siri слушает вас, добавляя распознавание устной речи к своим возможностям продвинутого мобильного поиска. Свои ответы программа тоже произносит. И, самое главное, она учится. Судя по патентам, оформленным в последнее время компанией Apple, скоро Siri начнет взаимодействовать с онлайн-продавцами, покупая у них такие вещи, как книги и одежда, а также принимать участие в онлайн- форумах и отвечать на звонки службы клиентской поддержки.

Мы миновали громадную веху на пути собственной эволюции. Мы уже разговариваем с машинами. Это гораздо более серьезное нововведение, чем пресловутый GUI — графический пользовательский интерфейс, созданный DARPA и доведенный до потребителей компанией Apple (с благодарностью Исследовательскому центру Xerox в Пало-Альто). Получила распространение метафора о том, что с момента появления GUI компьютеры работают как люди, со столами и папками, а мышка — это просто заменитель руки. DOS был основан на противоположной идее — чтобы работать с компьютером, необходимо было выучить его язык, состоявший из негибких команд, которые нужно было набирать вручную. Теперь все совсем иначе. Завтрашние технологии будут с большим или меньшим успехом учиться тому, чему учимся мы, и помогать нам в этом.

Как и в случае с GUI, другие операционные системы возьмут на вооружение новинку Apple — Siri — или погибнут. И, разумеется, использование естественного языка распространится на настольные компьютеры и планшеты, а очень скоро — и на все прочие цифровые устройства, включая ми- кроволновки, посудомоечные машины, системы отопления, охлаждения и развлечения, а также, само собой, автомобили. Или, может быть, все они будут управляться тем самым телефоном, который лежит у вас в кармане и который в очередной раз превратится в нечто совершенно иное. Это будет не виртуальный помощник, а просто помощник и его способности будут множиться с ростом быстродействия. Судите сами, случайно ли именно с него начался реальный диалог между человеком и машиной, который продлится так долго, как долго будет существовать наш биологический вид.

Но вернемся на минуту в настоящее и послушаем Эндрю Рубина, старшего вице-президента Google по мобильным приложениям. Если его точка зрения победит, то Android не будет участвовать ни в каких играх с виртуальными помощниками. «Я не думаю, что ваш телефон должен быть каким-то помощником, — сказал Рубин, наглядно демонстрируя, каково это — опоздать на пароход. — Ваш телефон — это средство связи. Вы не должны общаться с телефоном; вы должны общаться с человеком на другом конце линии». Кому-то следовало мягко напомнить Рубину о голосовом приложении Voice Action, которое его команда уже протащила в систему Android. Они-то знают, что будущее — за общением с телефоном.

Несмотря на то что вы + Google обладаете интеллектом в определенном смысле выше человеческого, это не тот интеллект, который возникнет в результате интеллектуального взрыва; кроме того, этот интеллект не породит интеллектуальный взрыв. Вспомните, что для интеллектуального взрыва необходима система, которая обладала бы самосознанием и способностью к самосовершенствованию, а также имела в своем распоряжении необходимые компьютерные сверхвозможности. Такая система могла бы работать с полной сосредоточенностью круглосуточно и без выходных, атаковать задачи целой командой из собственных копий, мыслить стратегически с безумной скоростью и много чего еще. Можно предположить, что вы+Google представляете собой особую разновидность сверхразума, но ваш рост ограничен вашими возможностями и возможностями Google. Вы не в состоянии формулировать запросы для Google круглосуточно и без выходных, да и Google, экономя ваше время на поиске, заставляет напрасно его тратить, выбирая лучший ответ из множества вариантов. И даже если вы успешно работаете вместе, вы, скорее всего, не программист, a Google не умеет программировать. Так что, даже если вы заметите в своей системе недостатки, ваши попытки их исправить, вероятно, не выльются в пошаговое продвижение вперед. Нет, человеку интеллектуальный взрыв не светит.

Может ли усиление интеллекта в принципе привести к интеллектуальному взрыву? Конечно, примерно по той же схеме, что УЧИ. Представьте себе человека, элитного программиста, чей интеллект настолько усилен, что и без того значительное мастерство программирования еще возрастает — он работает быстрее, увеличивает запас знаний и настраивается на улучшения, способные повысить его общую интеллектуальную мощь. Такой гипотетический постчеловек вполне мог бы запрограммировать для себя следующий этап усиления.

Вернемся к сложности программного обеспечения. По всем признакам компьютерщики многих стран работают изо всех сил, пытаясь собрать воедино взрывчатые ингредиенты для интеллектуального взрыва. Станет ли сложность программного обеспечения непреодолимым барьером на их пути?

Представление о том, насколько сложна эта проблема, можно получить, узнав у специалистов, как скоро следует ждать появления УЧИ. На одном конце шкалы окажется директор по исследованиям Google Питер Норвиг, который, как мы уже упоминали, готов сказать лишь, что до УЧИ еще слишком далеко, чтобы об этом говорить. Тем временем коллеги Нор- вига под предводительством Рэя Курцвейла продолжают работать над созданием УЧИ.

На другом конце шкалы находится Бен Гертцель, который, как Гуд в свое время, считает, что создание УЧИ — всего лишь вопрос денег, и что он вполне может быть создан до 2020 г. Рэй Курцвейл — вероятно, лучший в истории технический прогнозист, — предсказывает появление УЧИ к 2029 г., но не ждет ИСИ раньше 2045 г. Он признает сложности на этом пути, но не жалеет энергии для убеждения окружающих в том, что ИСИ ждет долгое и безопасное путешествие в процессе рождения.

Мой неформальный опрос приблизительно двух сотен компьютерщиков на недавней конференции по УЧИ подтвердил подозрения. Ежегодная конференция по УЧИ, организованная Гертцелем, представляет собой трехдневную площадку для встречи людей, активно работающих над созданием искусственного интеллекта человеческого уровня, или таких, как я, кто просто глубоко интересуется этим вопросом. Участники конференции представляют свои работы, образцы программ, хвалятся своими успехами. Я был на конференции, которая проходила в штаб-квартире Google в Маунтин-Вью (штат Калифорния). Я задавал присутствующим вопрос, когда следует ожидать появления УЧИ, и предлагал на выбор четыре варианта: к 2030 г., к 2050 г., к 2100 г. или никогда. Голоса распределились следующим образом: 42 % считает, что УЧИ будет создан к 2030 г.; 25 % — к 2050 г.; 20 % — к 2100 г.; и 2 % — никогда. Этот опрос, проведенный среди весьма специфической группы людей, подтвердил оптимистический настрой и временные рамки более формальных исследований, одно из которых я цитировал в главе 2. Среди письменных ответов я получил несколько жалоб на то, что не включил в число вариантов даты ранее 2030 г. Мне кажется, примерно 2 % респондентов ответили бы, что УЧИ появится к 2020 г., и еще 2 % — что еще раньше. В былые времена меня поражал подобный оптимизм, но теперь я перестал удивляться. Я воспользовался советом Курцвейла и теперь тоже считаю, что информационные технологии развиваются не линейно, а по экспоненте.

Но теперь, если вам случится оказаться в зале, где все присутствующие глубоко погружены в исследования УЧИ, и захочется развлечься, объявите громко: «УЧИ никогда не будет создан! Это попросту слишком сложно!» Гертцель, к примеру, в ответ на это заявление посмотрел на меня так, как будто я вдруг начал проповедовать креационизм. Сам Гертцель, как и Виндж, был когда-то профессором математики, и о будущем ИИ он судит по истории дифференциального исчисления.

Словно дифференциальное исчисление, развивающееся несколько столетий, исследования ИИ будут постепенно продвигаться, пока продолжающаяся практика не приведет к открытию новых теоретических правил, которые позволят специалистам формализовать значительную часть работы; с этого момента движение к УЧИ пойдет проще и быстрее.

Но отсутствие удобной теории принципиально ничего не меняет.

Гертцель говорит:

[31] Карр H. Великий переход: что готовит революция облачных технологий. — М.: Манн, Иванов и Фербер, 2013.