Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens: читать книгу онлайн полностью и бесплатно

«Из всех органов один только мозг способен к мысли, обучению, распознаванию, — говорит он. — Ничто, сконструированное человеком до сих пор, не сумело сравняться и тем более превзойти возможности мозга в любой из этих задач. Несмотря на громадные усилия и большие бюджеты, у нас нет искусственных систем, которые могли бы конкурировать с человеком в распознавании лиц, в восприятии естественных языков, в обучении на опыте».

Так что давайте отдадим мозгу должное. Мозг, а не мускулы, сделал нас доминирующим видом на планете. Мы взошли на пьедестал не потому, что были красивее животных, конкурировавших с нами за ресурсы или попросту хотевших съесть нас. Мы лучше думали даже, вероятно, в тех случаях, когда речь шла о конкуренции с другими человекообразными видами. Разум, а не мускулы, принес нам победу.

Разум станет залогом победы и в стремительно приближающемся будущем, когда мы, люди, перестанем быть самыми умными существами в окружающей действительности. Почему нет? Когда технически отсталые народы брали верх над более развитыми? Когда менее разумные виды брали верх над более мозговитыми? Когда разумный вид хотя бы позволял относительно разумному виду существовать рядом, иначе чем в виде домашних любимцев? Посмотрите хотя бы, как мы, люди, относимся к ближайшим своим родичам, высшим приматам — шимпанзе, орангутанам и гориллам. Те, кто еще не погиб, не оказался в зоопарке и не превратился в циркового клоуна, находятся в опасности и, можно сказать, доживают последние дни.

Разумеется, Грейнджер прав, и ни одна искусственная система не может сравниться с человеком в распознавании лиц, обучении и владении языком. Но в узких специализированных областях ИИ обладает потрясающей мощью. Представьте себе существо, которое имеет в своем распоряжении всю эту мощь, и представьте, что оно по-настоящему разумно. Как долго оно готово будет оставаться нашим орудием? Вот что сказал историк Джордж Дайсон о том, где может жить такое сверхразумное существо, после экскурсии по штаб-квартире Google:

Далее Дайсон цитирует писателя-фантаста Саймона Ингза:

Глава 13

Непознаваемы по природе

Видя, как ИИ наступает по всем фронтам, от Siri до Watson, OpenCog и LIDA, трудно поверить, что человечество не сможет создать УЧИ из-за сложности реализации. Если увеличение мощности компьютеров не приведет к желаемому результату, поможет обратное проектирование, хотя времени на это уйдет больше. Несмотря на это, Рик Грейнджер ставит перед собой цель: понять мозг по восходящей, от простого к сложному, путем реализации самых фундаментальных его структур в виде компьютерных программ. И он не может не иронизировать над исследователями, работающими сверху вниз по когнитивной вертикали с применением принципов информатики.

А ведь не секрет, что человек плохо умеет анализировать свое поведение. «Огромное количество исследований по психологии, нейробиологии и когнитивистике показывает снова и снова, как плохо мы умеем вглядываться в себя, — говорит Грейнджер. — Мы не имеем понятия ни о собственном поведении, ни о процессах, которые стоят за ним». Грейнджер отмечает, что мы также плохо умеем принимать рациональные решения, точно рассказывать об увиденном и вспоминать то, что случилось совсем недавно. Но ограниченность возможностей человека как наблюдателя не означает, что когнитивные науки, основанные на наблюдениях, — полная чепуха.

Грейнджер просто считает, что это неподходящий инструмент для проникновения в тайны интеллекта.

«В вычислительной нейробиологии мы задаем вопрос: "Хорошо, что человеческий мозг на самом деле делает?" — говорит Грейнджер. — Не что мы думаем, он делает, и не что мы бы хотели, чтобы он делал. Что он на самом деле делает? И может быть, информация об этом даст нам впервые и определение разума, и определение адаптации, и определение языка».

Выяснение вычислительных принципов мозга начинается с того, что ученые проверяют, чем занимаются в мозгу те или иные кластеры нейронов. Нейроны — это клетки, которые посылают и принимают электрохимические сигналы. Важнейшую часть их составляют аксоны (волокна, соединяющие нейроны между собой; именно они обычно являются отправителями сигнала), синапсы (соединения, через которые проходит сигнал) и дендриты (обычно получатели сигнала). В мозгу человека около ста миллиардов нейронов. Каждый из них соединен со многими десятками тысяч других нейронов. Такое обилие связей делает все операции мозга параллельными, а не последовательными, как у большинства компьютеров. В вычислительных терминах последовательная обработка данных означает, что операции выполняются по очереди, по одной. Параллельная обработка данных означает, что большое количество данных обрабатывается одновременно — иногда в одно и то же время проходят сотни тысяч или даже миллионы операций.

Представьте на мгновение, что вы переходите оживленную городскую улицу; подумайте, сколько информации — цвета, звуки, запахи, температура, ощущение асфальта под ногами — одновременно поступает при этом в ваш мозг через уши, глаза, нос, конечности и кожу. Если бы ваш мозг не был органом, способным обработать все это одновременно, он мгновенно выключился бы от перегрузки. Вместо этого ваши органы чувств собирают всю эту информацию, мозг пропускает ее через нейроны и обрабатывает, — а в результате вы ведете себя соответственно, останавливаетесь перед светофором и избегаете столкновений с другими пешеходами.

Группы нейронов работают вместе и объединяются в схемы, сильно напоминающие электронные. В электронной схеме протекает электрический ток через специальные элементы, такие как резисторы и диоды. В ходе этого процесса ток выполняет различные функции — включает свет, к примеру, или запускает косилку. Если вы составите список инструкций, которые приводят к выполнению этой функции или какого-то вычисления, вы получите компьютерную программу или алгоритм.

Кластеры нейронов в вашем мозгу образуют схемы, которые действуют как алгоритмы. При этом они не включают свет, а распознают лица, планируют отпуск или набирают на клавиатуре предложение. И все это время работают параллельно. Откуда исследователи знают, что происходит в этих нейронных кластерах? Попросту говоря, они собирают детальную информацию при помощи специальных инструментов визуального исследования мозга, начиная от электродов, вживленных непосредственно в мозг животных, и заканчивая такими аппаратами, как ПЭТ- и фМРТ-сканеры применительно к людям. Нейронные зонды внутри и снаружи черепа способны показать, что делают отдельные нейроны, а маркирование нейронов электрически чувствительными красками наглядно показывает, когда те или иные нейроны активны. Из этих и других методик следуют проверяемые гипотезы об алгоритмах, управляющих контурами мозга. Кроме того, начато определение точной функции некоторых отделов мозга. Уже больше десяти лет, к примеру, нейробиологи знают, что узнавание лиц происходит в части мозга, известной как веретенообразная извилина.

Постойте, но в чем же суть? Неужели вычислительные системы, построенные по образу и подобию мозга (подход вычислительной нейробиологии), работают лучше, чем те, что построены de novo (подход информатики)?

Ну, одна из разновидностей систем, сделанных по образцу мозга, — искусственные нейронные сети (ИНС), — работает уже так давно и хорошо, что стала, по существу, основой ИИ. Как говорилось в главе 7, ИНС (которые можно разделить на аппаратные и программные) были придуманы в 1960-е гг. специально для того, чтобы играть роль нейронов. Одно из основных их преимуществ состоит в том, что ИНС обучаемы. Если вы хотите научить нейронную сеть переводить текст с французского языка на английский, к примеру, вы можете для начала подать на вход французский текст и точный английский перевод этого текста. Этот процесс называется контролируемым обучением. Если образцов будет достаточно, сеть распознает и усвоит правила, связывающие французские слова с их английскими эквивалентами.

В мозгу нейроны соединяются друг с другом через синапсы, и именно в этих точках контакта происходит обучение. Чем прочнее синаптическая связь, тем прочнее воспоминание. В ИНС прочность синаптического соединения называется его «весом» и выражается в виде вероятности. ИНС присваивает си- наптические веса правилам перевода с иностранного языка, которые усваивает в процессе обучения. Чем дольше длится обучение, тем лучше будет перевод. В ходе обучения ИНС учится распознавать собственные ошибки и соответствующим образом корректирует синаптические веса. Это означает, что нейронная сеть изначально способна к самосовершенствованию.

После обучения, когда на вход системы поступит французский текст, ИНС сверится с вероятностными правилами, усвоенными в ходе обучения, и выдаст свой лучший перевод. По существу, ИНС ищет закономерности в структуре данных. На сегодняшний день поиск закономерностей в больших объемах неструктурированных данных — одна из самых перспективных областей применения ИИ.

Помимо перевода и анализа больших объемов информации ИНС сегодня активно используются в структуре ИИ, анализируют фондовый рынок и распознают объекты на картинках. Они присутствуют в программах оптического распознавания символов, предназначенных для чтения печатного текста, и в микросхемах, управляющих ракетами. ИНС обеспечивают «ум» умным бомбам. Да и большинство архитектур УЧИ без них не обойдутся.

Из главы 7 стоит вспомнить еще кое-что важное об этих вездесущих нейронных сетях. Подобно генетическим алгоритмам, ИНС работают по принципу «черного ящика». Это значит, что входные данные — в нашем примере французский текст — прозрачны. А выходные — здесь это английский текст — понятны. Но что происходит в промежутке, никто не знает. Все, что может сделать программист, — это руководить и направлять обучение ИНС, подбирая примеры и пытаясь улучшить результат перевода. А поскольку результат работы «черного ящика» — искусственного интеллекта — непредсказуем, его нельзя считать по-настоящему безопасным.

Судя по результатам работы алгоритмов Грейнджера, построенных по образу и подобию мозга, можно сделать вывод, что при создании искусственного разума лучше, возможно, следовать эволюционной модели и копировать человеческий мозг, чем создавать de novo когнитивные системы на базе компьютерных наук.

В 2007 г. ученики Грейнджера из Дартмутского колледжа написали по результатам исследований мозга алгоритм визуального восприятия, распознававший объекты в 140 раз быстрее, чем традиционные алгоритмы. Он показал лучшие результаты, чем 80000 других алгоритмов, и выиграл приз IBM в $10 000.

В 2010 г. Грейнджер и его коллега Ашок Чандрашекар создали по образцу мозга алгоритмы контролируемого обучения, которые используются при обучении машин распознаванию оптических символов и голоса, выделению спама и т. п. Алгоритмы, сделанные по образцу мозга для использования в процессорах с параллельной обработкой данных, работали так же точно, как и последовательные алгоритмы того же назначения, но в десять с лишним раз быстрее. Образцом для новых алгоритмов послужили самые распространенные типы нейронных кластеров, или схем, мозга.

В 2011 г. Грейнджер с коллегами запатентовал чип с изменяемой конфигурацией для параллельной обработки данных, основанный на этих алгоритмах. Это означает, что некоторые из самых распространенных структур мозга уже можно воспроизвести в виде компьютерного чипа. Стоит собрать их вместе, как в программе SyNAPSE фирмы IBM, — и вы на пути к созданию виртуального мозга. Всего один из этих чипов уже сегодня мог бы ускорить и улучшить работу систем, созданных для распознавания лиц в толпе, обнаружения ракетных пусков на спутниковых фотографиях, автоматической каталогизации вашей коллекции цифровых снимков и решения сотен других задач. Со временем искусственное воспроизведение мозговых схем, возможно, позволит «ремонтировать» поврежденный мозг, встраивая в него компоненты, способные восстановить «неисправные» области. Когда-нибудь микросхема параллельной обработки данных, запатентованная командой Грейнджера, могла бы заменить собой поврежденные структуры живого мозга.

А пока программы, построенные по алгоритмам работы мозга, пробиваются в традиционные компьютерные процессы. Подкорковые узлы — древняя, «рептильная» часть мозга, отвечающая за контроль движений. Исследователи выяснили, что подкорковые узлы при освоении навыков задействуют алгоритмы того типа, что используются в обучении с подкреплением. Команда Грейнджера открыла, что нейронные контуры в коре головного мозга — последнем по времени появления отделе мозга — выстраивают иерархии фактов и создают связи между фактами (подобно иерархическим базам данных). Это два разных механизма.

А теперь самое интересное. Нейронные схемы в этих двух частях мозга, подкорковых узлах и коре, связаны между собой посредством других контуров, сочетающих в себе свойства того и другого. В вычислительной технике существуют прямые параллели этому. Компьютерные системы обучения с подкреплением действуют методом проб и ошибок — они должны проверить громадное число возможностей, чтобы узнать наконец верный ответ. Именно так мы в основном используем подкорковые узлы для освоения автоматических действий, таких как езда на велосипеде или удар по бейсбольному мячу.

Но у человека есть еще иерархическая система коры, позволяющая нам не просто перебирать вслепую все возможности методом проб и ошибок, а каталогизировать и иерархически организовывать их, а затем просеивать куда более разумно. Такая комбинация работает намного быстрее и дает лучшие результаты, чем у животных, к примеру, пресмыкающихся, использующих только систему проб и ошибок, работающую в подкорковых узлах. Возможно, самое продвинутое, что мы можем делать в системе, объединяющей в себе кору и подкорковые узлы, — это проводить внутренние тесты типа проб и ошибок без необходимости выходить на внешний уровень и проверять в реальном мире. Мы можем проводить множество проверок, просто обдумывая что-то: мы моделируем все это в своей голове. Искусственные алгоритмы, в которых сочетаются эти методы, работают много лучше, чем каждый из методов в отдельности. Грейнджер предполагает, что примерно такое же преимущество дает объединение двух этих систем в нашем мозгу.

Грейнджер и другие нейробиологи выяснили также, что цепями мозга управляют всего несколько типов алгоритмов. Одни и те же базовые вычислительные системы используются вновь и вновь в различных сенсорных и когнитивных операциях, таких как слуховое восприятие и дедуктивные рассуждения. Не исключено, что, как только эти операции удастся воспроизвести в компьютерах программно и аппаратно, можно будет простым их дублированием создавать модули для моделирования различных частей мозга. А воссоздание алгоритмов, скажем, слухового восприятия должно помочь в усовершенствовании приложений распознавания устной речи. Более того, это уже произошло.

Курцвейл был одним из первых новаторов, применивших знания о мозге в программировании. Как мы уже говорили, он утверждал, что обратное проектирование мозга — самый перспективный путь к созданию УЧИ. В очерке, отстаивавшем эту точку зрения и его предсказания по поводу этапов и вех технического развития, он писал:

Еще в 1990-е гг. фирма Курцвейла делала первые шаги в распознавании речи и разрабатывала приложения, которые позволили бы врачам диктовать медицинские отчеты. Курцвейл продал свою компанию, и на ее, в частности, основе возникла компания Nuance Communications. Всякий раз, прибегая к помощи Siri, вы пользуетесь алгоритмами Nuance, задействованными в речевой части этого волшебства. Распознавание речи — искусство перевода произнесенного слова в текстовую форму (не путать с обработкой естественного языка, цель которой — извлечение смысла из написанных слов). После того, как Siri переведет ваш запрос в текстовый вид, в дело вступают три остальных ее главных таланта: обработка естественного языка, поиск в громадной базе данных и взаимодействие с поисковыми серверами Интернета, такими как OpenTable, Movietickets и Wolfram | Alpha.