Повесть грядущих лет: читать начало книги онлайн

Электричество – это энергия, которую легко транспортировать. Хотя для ее производства необходим уголь или другие источники, а в процессе передачи тысячам домохозяйств неизбежны энергетические потери, машины, работающие на электричестве, могут применяться повсеместно и являются экологически чистыми. С тех пор как электричество превратилось в распространенный источник энергии, конфигурации машин стали разнообразнее и совершенствовались с каждым днем.

После Второй мировой войны развитие компьютеров и Интернета положило начало третьей промышленной революции – информационной. Генерация, сбор и обработка данных достигли высочайшего уровня. Преимущества информационных технологий заключаются не только в них как таковых. Компьютеры могут выполнять множество вычислений, тем самым облегчая умственный труд человека и повышая эффективность производства, и это только основная роль информационных технологий. Более важная же заключается в беспрецедентном объединении всего человечества, что в значительной степени способствует экономическому развитию.

Современный мир достиг нового рубежа, связанного с появлением искусственного интеллекта. Цивилизация вступает в четвертую промышленную революцию. В будущем получат должное применение множество технологий – управляемый термоядерный синтез, эффективная солнечная энергия, генетическая инженерия… Однако все это можно рассматривать как передовые разработки информационной эры, и лишь одно открытие приведет к изменениям в природе общества – искусственный интеллект.

Влияние искусственного интеллекта будет долгосрочным и глубоким. Его следует рассматривать как нечто совершенно новое, не похожее на предыдущие три промышленные революции. Возможно, для его описания нам следует использовать другой термин: интеллектуальная революция.

Аграрная и первая промышленная революции в совокупности задали курс общественному развитию. Вторая и третья промышленные революции способствовали глобализации и совершенствованию техники, но по сути все же являлись продолжением первой. Интеллектуальная революция в корне разрушит существующую форму общества, потому что ее итогом должно стать появление умных машин.

Люди – самый разумный вид на Земле. В этом нет никаких сомнений.

Но после интеллектуальной революции этот тезис придется дополнить некоторыми оговорками. Вполне возможно, умные машины станут «новым видом» и будут умнее людей.

Интеллект – это гарантия того, что человек останется на вершине биосферы Земли. Это краеугольный камень нашей цивилизации. Но теперь мы обрели возможность создавать вещи умнее нас самих.

Необходимо осознавать последствия грядущей революции. Она превратит человека в творца и в то же время сделает будущее неопределенным.

Нынешний искусственный интеллект – плохая имитация биологического интеллекта, но он уже показал свою мощную силу. В марте 2016 года искусственный интеллект AlphaGo победил Ли Седоля, чемпиона мира по игре в го. До этого люди считали, что го – это область, где компьютерные программы не смогут бросить человеку вызов. Еще в 1997 году компьютерная программа Deep Blue одержала верх над чемпионом мира по шахматам Гарри Каспаровым. Победа компьютера в го пришла с опозданием на 18 лет. За эти годы игра в го стала своего рода тотемом, символизирующим непревзойденность человеческого интеллекта. В 2016 году этот тотем с грохотом рухнул.

Итак, в чем разница между AlphaGo 2016 года выпуска и Deep Blue 1997 года?

Компьютерная программа Deep Blue, победившая в свое время Каспарова, использовала алгоритмы программирования и во время партии полагалась на колоссальные возможности поиска и запоминания. Это своего рода эквивалент грубой машинной силы. У программы есть очевидный недостаток: она не может выйти за рамки человеческого мышления.

В сущности, шахматные ходы Deep Blue, пусть и «хорошо продуманные», представляли собой всего лишь повторение ходов, некогда сделанных людьми. Число степеней свободы в шахматах ограничено. Хотя гроссмейстер может подстроиться под ситуацию и придумать ход, которого никогда раньше не делал, велика вероятность, что тот уже появлялся в истории – люди не способны учесть все когда-либо сыгранные партии. Компьютерные программы могут запомнить гораздо больше человека, что позволяет им найти оптимальное решение любой шахматной задачи. Подобная «грубая машинная сила» производит глубокое впечатление, так как, несмотря ни на что, люди проигрывают даже ей. Но поскольку машина выполняет инструкции, ее логика на самом деле остается человеческой и представляет собой не более чем совокупность мышления множества людей. Интеллект автомата может стать очень сложным, например, если тысячи инженеров потратят год на формирование огромной и самосогласованной логической библиотеки, однако этот метод программирования основан на простой повторяющейся функции – выполнении инструкции. Никаких сюрпризов он не преподносит, а если и преподнесет, то это будет баг. Стратегию Deep Blue можно разгадать. Например, посадим за шахматную доску игрока-программиста, который будет пошагово следовать тем же инструкциям. Будь у него достаточно времени, он смог бы понять, как Deep Blue делает ход. Интеллект, полученный с помощью запрограммированных инструкций, по сути является повторением человеческого интеллекта. Такая машина может стать очень мощной, может показаться умной, но не создаст ничего по-настоящему творческого, а будет лишь следовать указаниям и воспроизводить то, что уже существовало ранее. Так обстоит дело с Deep Blue.

AlphaGo отличается тем, что использует алгоритмы нейронной сети. Звучит волшебно, но проще говоря, это означает, что компьютер может выполнять вычисления, как человеческий мозг. В этом и состоит фундаментальное отличие от алгоритмов программирования: в алгоритмы нейронных сетей заложены только правила логической эволюции, а не сама логика. Что это значит? Все программы, написанные на разных языках, представляют собой логические инструкции. Нейронные сети также действуют по определенной логике, но их логическая библиотека не проявляется, она не выражена в виде набора инструкций, а заложена в самой структуре сети, возникшей в процессе эволюционного развития. Таким образом, хранение и оперирование данными осуществляются самой сетью. Разница в логических возможностях двух сетей отражается в их внутренней структуре. Алгоритмы нейронных сетей основаны на моделировании биологического мозга. В мозгу нет запоминающего устройства или центрального процессора. Он сильно отличается от компьютеров, которые мы используем сейчас, и фундаментальные концепции его организации совершенно другие. Стандартные компьютеры имеют архитектуру фон Неймана: она состоит из памяти, контроллера и арифметического блока, а также устройств ввода и вывода. Хранение данных, управление системой и вычисления происходят согласно установленной логике.

Это линейный процесс, и выполнение каждого шага должно следовать за выполнением предыдущего. Современные компьютеры используют программное или аппаратное обеспечение для создания многопоточных операций, но это делается только для того, чтобы разделить вычисления на подзадачи для повышения эффективности. Внутри каждой небольшой задачи по-прежнему соблюдаются основные принципы, разработанные фон Нейманом. Однако человеческий мозг представляет собой параллельную логическую систему высшего порядка, и у него нет определенного центра. Если какой-либо блок компьютера будет поврежден, весь компьютер перестанет функционировать. Но для человеческого мозга его отдельная клетка не представляет большого значения, и ее повреждение практически не влияет на вычислительную мощность всего мозга. Компьютеры являются цифровыми. Если не учитывать резервное копирование, каждая единица памяти хранит уникальные данные. А компьютер человеческого мозга статистический, и информация существует только в мозге в целом, а не записана в его определенной клетке.

Проиллюстрировать, как представлена информация, существующая в целом, мы можем на примере голограммы. Даже если та повреждена, до тех пор, пока хоть одна ее часть остается в своем первоначальном виде, изображение не будет потеряно. Более простой аналогией будет принцип формирования изображения выпуклыми линзами. Свет проходит через такую линзу, и на листе бумаги появляется перевернутое действительное изображение. Если закрыть половину линзы непрозрачным предметом, изображение не исчезнет наполовину, а станет более тусклым.

Если человеческую память сравнить с перевернутым действительным изображением, а выпуклую линзу – с человеческим мозгом, связь между памятью и мозгом станет ясна с первого взгляда. Память – это общая функция мозга, и она не выйдет из строя из-за его частичного повреждения.

Конечно, человеческий мозг имеет много функциональных областей, и повреждение некоторых из них может привести к потере определенных способностей. Это вызвано тем, что в мозге происходит «разделение труда». Если продолжить описание в оптических терминах, то наш мозг состоит из множества выпуклых линз. Они показывают различные сцены из внешнего мира, которые вместе образуют всеобъемлющую память. Как получается, что частично поврежденная нейронная сеть может оставаться пригодной для обработки конкретных ситуаций? Ответ кроется в важном понятии: обучении.

Перекрыв часть линзы, мы не заставим исчезнуть определенную часть изображения, но, если убрать всю линзу, изображение, конечно, исчезнет целиком.

Клетки нашего мозга умирают каждый день во всех его отделах, но мозг по-прежнему функционирует. Только когда наступает старение и разрушается слишком много клеток, «изображение» постепенно размывается. Для человека это нормально. Если часть мозга повреждается в результате несчастного случая, то функция, связанная с этой частью, также утрачивается.

Алгоритм нейронной сети имитирует биологический мозг и выполняет запоминание и операции по всему своему объему. Правда, нельзя сказать, что он работает как биологическая нейронная сеть, потому что секреты мозга еще не полностью разгаданы и остаются неизвестны аспекты совместной работы нейронов.

Но, если исходить из практики нейросетевых алгоритмов, у нас уже есть результаты, подобные AlphaGo. Таким образом, мы можем по крайней мере предположить, что этот алгоритм, даже грубая симуляция мозга, способен адаптироваться к конкретным ситуациям.

Что такое обучение? Неужели в нем кроется проблема? Мы учимся непрерывно с самого детства. Обучение – это социальное поведение, но в области искусственного интеллекта оно приобретает несколько иное значение. При машинном обучении эксперты стремятся обозначить входные данные и желаемый результат так, чтобы нейронная сеть могла развиться в определенном направлении и сформировать специальную структуру, работающую с проблемами определенного типа. Этот процесс аналогичен изменениям в нейронных сетях живых организмов под влиянием обучения.

Как AlphaGo изучает го – вопрос слишком узкоспециальный, и мы не будем останавливаться на нем подробно. Но об одном факте упомянуть необходимо: то, как эта программа играет в го, фундаментально отличается от того, как играют люди. Другими словами, в рамках ограничений правил го она нашла новый способ играть, и он гораздо эффективнее человеческого. Страшно то, что люди не могут понять ее стратегию. Причина этого, вероятно, кроется в том, что аппаратное обеспечение AlphaGo на самом деле намного превосходит человеческий мозг, что дает программе огромное преимущество и позволяет просчитывать ситуации, которые люди учесть не могут. Обновленная версия AlphaGo называется AlphaGo Zero. Почему Zero – «ноль»? Потому что эта нейронная сеть не использовала накопленный людьми опыт и начала играть в го с нуля. Первая партия походила на баловство ребенка: одна сторона поля черная, другая белая, почти вся доска заполнена. Однако AlphaGo Zero быстро превратилась в мастера го и превзошла версию-предшественницу, и, естественно, сейчас ни один человек не может с ней тягаться. Это доказательство того, что для искусственного интеллекта, основанного на алгоритмах нейронных сетей, достаточно лишь установить определенные правила, и он разовьется и превзойдет человеческий интеллект. По крайней мере, это верно в случае игровой симуляции.

В других областях, где правила ясны, а сценарии относительно просты, таких как распознавание изображений и речи, искусственный интеллект добился значительного прогресса. Можно сказать, что в решении этих задач машины уже превзошли людей, поскольку точность машинного распознавания может быть выше, чем у человека. Но искусственный интеллект также может допускать неожиданные ошибки.

Например, если вы приложите ко лбу лист бумаги со специальными полосками, люди все равно смогут легко идентифицировать лицо, а искусственный интеллект – нет. Это также доказывает, что, хотя искусственный интеллект распознает лица, изучив достаточное количество изображений, метод, который он использует, вовсе не соответствует человеческому. Причина может заключаться в том, что до сегодняшнего дня алгоритмы нейросетей представляли собой лишь грубую симуляцию биологических процессов. Но я считаю, что с дальнейшим развитием науки о мозге будут разрабатываться и более сложные алгоритмы, так что некоторые недостатки искусственного интеллекта могут быть восполнены.

Конечно, также возможно, что они кроются не в самом алгоритме, а в методе обучения.

Взглянем на то, как развивалось биологическое распознавание образов. Существа сталкивались с суровой средой обитания, на карту были поставлены жизнь и смерть. В естественном отборе побеждали те, кто умел ориентироваться в окружающем пространстве. Наиболее действенный способ идентификации передавался следующим поколениям через генетический код. Со временем биологическое распознавание образов достигло чрезвычайной эффективности. Но, пожалуйста, обратите внимание, что разные существа применяли разные стратегии. Наиболее очевидна разница между глазами, содержащими одну линзу, и фасеточными. Первые позволяют идентифицировать различные объекты во внешней среде, однако одни типы таких глаз чувствительны к цвету, другие – к форме; существа же с фасеточными глазами воспринимают движение через разницу в изображении между омматидиями, но они, вероятно, не до конца понимают форму объектов. Итак, в природе есть множество способов распознавания образов, но независимо от того, в чем они заключаются, они связаны со средой обитания и являются продуктом эволюции. Способность к биометрическому распознаванию должна развиться до соответствующего уровня, иначе вид не сможет выжить. Условно говоря, метод обучения искусственного интеллекта намного проще. Люди «скармливают» ИИ множество картинок, на основе которых он развивает конкретные алгоритмы распознавания. Однако, сколько бы фотографий ни пошло в дело, этот метод обучения не универсален – как только ситуация поменяется, интеллект может и не приспособиться. Таким образом, если искусственный интеллект должен адаптироваться к сложной среде, то необходимо обучать его именно в такой. А это требует времени и хорошего механизма отбора, который эксперты по искусственному интеллекту должны дополнительно исследовать.

То, о чем шла речь выше, касается только конкретных областей. Безграничные возможности искусственного интеллекта скрыты в более общих сценариях применения. Искусственный интеллект, которого с нетерпением ждут люди, – не просто машина, что может только слушать или только говорить. Настоящий искусственный интеллект должен обладать целым комплексом умений.

Будь то игра в го, распознавание лиц или речи – это все одно измерение. Нейронные сети, развившиеся в процессе обучения, могут выполнять только соответствующие функции, их нельзя сопоставить с человеческим мозгом. Реальный мир – сложный, и если мы тщательно разделим его, то, вероятно, сможем найти в нем десятки или даже сотни измерений. Точно так же на Олимпийских играх есть разделение на дисциплины: легкую атлетику, плавание, гимнастику и т. д. Несмотря на то, что мы называем все это видами спорта, для каждого необходима особенная физическая подготовка. Даже один вид можно разделить на подвиды – например, плавание, которое бывает на 3000 метров, 1500 метров и 800 метров…