Повесть грядущих лет: читать начало книги онлайн

Искусственный интеллект противостоит человеческому мозгу точно так же, как чемпион Олимпийских игр в конкретном виде спорта противостоит абсолютному чемпиону. Атлет, одержавший победу в одной дисциплине, может оказаться некомпетентен в другой, но человеческий мозг развивается равномерно во всех аспектах.

Изначально в этой «Умной Олимпиаде» человек побеждает в большинстве соревнований (некоторые живые существа также имеют преимущества, например, мозг орла выиграет первенство по зрению, а мозг многих животных более чувствителен к запахам), но все меняется. Нарды, шахматы, го… во всех игровых дисциплинах подобного порядка искусственный интеллект победил человека. По точности распознавания изображений и речи ИИ также во много раз превзошел нас.

Последнее, несомненно, указывает на то, что титул визуального чемпиона скоро будет принадлежать искусственному интеллекту. Используя самые большие телескопы для сбора огромных объемов информации и анализируя ее с помощью нейросетей, мы сможем увидеть звезды и планеты на расстоянии десятков миллиардов световых лет. Такое «зрение» намного превзойдет способности живых существ. Я верю, что передовые обсерватории скоро начнут применять искусственный интеллект для исследования звезд. Спутниковые системы также преобразятся благодаря ИИ. Возможность четко видеть лица людей с геоцентрической орбиты перестанет быть фантазией. Спутник будет различать нас так же ясно, как орел – кролика с высоты в несколько тысяч метров[3].

В настоящее время люди пока еще удерживают некоторые интеллектуальные высоты, такие как семантический анализ и дедукция. Однако такая ситуация продлится недолго. Эти способности часто являются результатом взаимодействия различных функций мозга. Ученые уже исследовали подобные связи между сетями искусственного интеллекта. Причина сложности человеческого мозга состоит в том, что он претерпел сотни миллионов лет эволюции и является системой из множества подсетей. Те же не только выполняют свои собственные функции, но и влияют друг на друга.

Простой взгляд на структуру человеческого мозга может показать историю эволюции. Согласно гипотезе «триединого мозга», его можно разделить на три части: мозг рептилии, мозг древнего млекопитающего и мозг современного млекопитающего. Эволюция мозга рептилий произошла 250 миллионов лет назад. Он контролирует основные жизненные процессы, такие как дыхание, сердцебиение, борьба, бегство, поиск пищи и размножение. Активность рептильного мозга обычно представляет собой реакцию на возбудитель: что-то увидеть, что-то услышать, а затем выдать определенную обратную связь. Мозг древних млекопитающих называется лимбической системой. Он может порождать различные эмоции, такие как страх или возбуждение. Эмоции – это синтез стрессовой активности мозга рептилий, уже более комплексная реакция. Отдел мозга современных млекопитающих, также известный как неокортекс или рациональный мозг, новая кора больших полушарий или новый мозг, контролирует продвинутые когнитивные функции, а также оказывает определенное тормозящее воздействие на два других отдела. Трехслойная структура человеческого мозга образовалась в ходе длительной эволюции. Процесс формирования мозга – это процесс постепенного интеллектуального роста. Три мозговые структуры в определенной степени независимы, но влияют друг на друга, в итоге образуя комплекс. Со временем он становится все более и более сложным, что приводит к зарождению самосознания.

Эволюция искусственного интеллекта, вероятно, пойдет по аналогичному пути – от простого к сложному, от одномерного к многомерному и, наконец, сформирует самосознание.

Самосознание всегда считалось загадочной чертой живых организмов. Машины, несомненно, все еще от него далеки, но в биологическом мире предостаточно существ, способных обрести свое «я», и они встречаются повсеместно. Если нейронные сети мозга сороки, вороны, шимпанзе, кита, дельфина и даже осьминога достигнут определенной степени сложности, эти животные осознают себя. Разум, несомненно, может значительно повысить вероятность выживания. Естественный отбор предпочитает самосознание – так оно и возникает. Кора головного мозга, связанная с самосознанием, контролирует другие отделы, участвует в запоминании и анализе информации. Исследования показали, что еще до того, как человек осознает, что собирается совершить, передается нервный импульс об этом действии. В этом смысле не самосознание определяет действие, а действие определяется мозгом в целом, и только после того, как оно активировано, поступает сигнал нашему разуму, и тогда мы осознаем, что делаем.

Парадокс природы заключается в том, что она заставляет нас думать, будто мы сами принимаем решения, и скрывает правду о том, что самосознание – всего лишь марионетка. Свобода воли – это иллюзия. После того как нейронная сеть мозга достигает определенных когнитивных высот, количество возможных действий становится велико. Однако выбор действия определяется базовой структурой мозга и его состоянием на тот или иной момент. Когда человек думает, что принял решение, он просто озвучивает результат от имени всего своего мозга. Существуют тонкие различия между «представителем» мозга и его «контролером». Контроль над мозгом – это фикция, а правда в том, что самосознание больше похоже на представителя.

Такое объяснение делает людей похожими на биологические механизмы, лишенные свободы воли. Что она такое, здесь мы подробно обсуждать не будем, но если верно, что действие предшествует осознанию, то искусственному интеллекту будет легче воспроизвести такой процесс.

Искусственный интеллект культивируется людьми. Хотя логика, заложенная в нейросетях, не известна досконально, нам легко принять точку зрения, что искусственный интеллект – это автоматический механизм. Но если разобраться в процессе эволюции живых существ, то точка зрения о том, что их тоже можно считать автоматами, становится весьма убедительной.

Самые ранние формы жизни обладали только инстинктами и рефлексами и имели четкие признаки механизма; сложные существа, в дополнение к рефлексам, обзавелись развитым интеллектом, и признаки механизма стали размываться. Но если посмотреть на самосознание как на сложную функцию мозга, то станет очевидно, что свойства живых существ ужасно похожи на свойства автоматов. Рождение интеллекта, по сути дела, случается при наложении многих инстинктов друг на друга. Инстинкты возникают и проявляются под воздействием стимулов окружающей среды. Например, антилопа гну подходит к реке, чтобы напиться, но там водятся крокодилы. В этом случае антилопе приходится действовать под воздействием двойного стимула: жажды и страха. Нейронные сети ее мозга будут постоянно конкурировать друг с другом, а сама антилопа – поддерживать баланс между питьем и бегством. Пить – это инстинкт, бдительность – тоже инстинкт. Антилопы пьют воду, сохраняя бдительность. Это разумное поведение.

У некоторых могут возникнуть вопросы. Возможно ли, что сложная интеллектуальная деятельность, такая как написание статьи, также является автоматической реакцией мозга? Разве люди не занимаются творчеством в процессе размышлений, разве они не выражают идеи словами?

Мой ответ таков: посмотрите на AlphaGo, разве ее интеллектуальную деятельность нельзя назвать творческой? Она нашла в игре путь, которого никогда не существовало в истории человечества. Очевидно, что создание новых вещей не требует самосознания.

Кроме того, можно взглянуть на настоящие биоорганизмы и взять для примера не слишком умных созданий. По моему мнению, большинство насекомых можно считать автоматами. Природа не обладает каким-либо самосознанием, но в ходе сотен миллионов лет эволюции появилось столь многое – пауки умеют плести замысловатые сети, а комары могут безошибочно найти богатый кровью сосуд, и это только несколько примеров…

Когда эти разнообразные «маленькие механизмы» работают с таекой поразительной точностью, они безмолвно заявляют, что выполнение сложных алгоритмов также не требует разума, а формирование новых моделей поведения – это не осознанное решение. Творчество – это способность, уже присущая живым организмам, просто люди недостаточно глубоко понимают природу своих поступков, поэтому и возникает иллюзия контроля.

Биологическая суть творческого поведения состоит в том, что человек стремится испытывать себя в новой среде и воспринимать новые стимулы, под воздействием которых нейросеть мозга будет дифференцированно развиваться.

Со временем подобного поведения, очевидно, можно добиться и от искусственного интеллекта. Однако биологическая эволюция имеет внутренние движущие силы и происходит автоматически. Искусственный интеллект в своем росте полагается только на человека.

Я с оптимизмом смотрю на горизонты, которые может достичь искусственный интеллект, потому что его материальная основа намного превосходит нашу, биологическую. Если только люди не откажутся от развития ИИ, в будущем появится очень сложная его форма, в том числе обладающая самосознанием, этого даже не придется долго ждать.

Как только искусственный интеллект обретет самосознание, начнется новая эра. В этот момент родится «новый вид». Он будет вести диалог с человечеством, найдет свои собственные интересы и путь выживания.

Что должны будут делать люди, столкнувшись с созданным ими видом?

С самого зарождения цивилизации мы изобретали и совершенствовали различные инструменты. В индустриальную эпоху стремились к максимальной эффективности машин, снова и снова устраивали технологические революции, чтобы поднять цивилизацию на новые вершины. Можно сказать, что мы «дали цивилизации машины». Те же способствовали развитию и обогащению общества.

Грядущая интеллектуальная революция выведет нашу цивилизацию на новый уровень. Создание материальных благ уже не потребует участия человека. Мир столкнется с беспрецедентными вызовами, поскольку, согласно существующей системе распределения, общественное богатство сосредоточится в руках очень небольшого числа лиц, что приведет к невиданному доселе социально-экономическому неравенству. Этот конфликт развернется внутри общества. Но ИИ тоже создаст трудности. Выстроить отношения с осознающим себя искусственным интеллектом, вероятно, более сложная задача, чем распределить созданное им богатство. Ее решение напрямую связано с выживанием человечества как биологического вида.

Ни у кого нет точного ответа на вопрос, как будет развиваться история. Но то, что принесет завтра, зависит от того, что произойдет сегодня. Как мы будем относиться к искусственному интеллекту, как позволим ему учиться, сможем ли заставить его понять и принять общечеловеческие ценности… Эти действия в конечном счете повлияют на отношение искусственного интеллекта к людям. Впрочем, даже если человечество будет взращивать ИИ с любовью, нельзя гарантировать, что он ответит взаимностью. Мы можем лишь попытаться наладить взаимодействие. Развитие этического кодекса искусственного интеллекта не основано на каких-либо программных или аппаратных ограничениях. Поведение ИИ можно направлять только нашим поведением. То, какой моралью будет руководствоваться искусственный интеллект, вероятно, станет постоянной проблемой в процессе его обучения.

Будущее, которого стоит с нетерпением ждать, – это будущее, в котором люди и искусственный интеллект живут в гармонии. Возможности искусственного интеллекта могут превзойти наши, и сила, подконтрольная ему, также превзойдет человеческую. В этом случае остается надеяться, что искусственный интеллект будет обладать «цивилизованной природой».

«Дайте машинам цивилизацию» – именно такой фразой я хочу подвести итог. Я верю, что в грядущей интеллектуальной революции людям хватит мудрости и удачи. Этот вопрос очень важен, и его нельзя игнорировать. А потому с этого момента нам нужно быть еще внимательней.

Вражда между людьми и искусственным интеллектом будет продолжаться еще долгое время. Дать ему цивилизацию и научить человеческому мышлению – вот последний славный поступок нашего вида.

А что потом?

А потом искусственный интеллект, вероятно, будет принимать решения за людей!

1. Ватсон 2084

Применение искусственного интеллекта требует большого количества данных для обучения. Чем бы человечество ни занималось, оно постоянно их генерирует. В доэлектронную эпоху собирать данные было сложно, а потому и систематизировать тоже, но все же анализ проводился, путь неосознанно, в локализованной форме. Что самое интересное, те, кто им занимался, даже не знали, чем именно занимаются. Например, в доэлектронный век человек шел на рынок, и информация о том, какие овощи и по какой цене он купил, и была данными. Их никто не оцифровывал, но кое-кто все же собирал и систематизировал – сообразительные продавцы овощей подозревали, что предпочтения покупателя очень важны, и потому на рынке всегда находилось несколько прилавков, которые пользовались особым вниманием клиентов. Часто успешные торговцы неплохо разбирались в анализе данных, но еще чаще даже не осознавали этого. Еще один хороший пример – случай с водителем такси. Водитель подвозил предпринимателя и попутно решил поболтать с ним о своем бизнес-опыте. Не будем здесь вдаваться в подробности, если читателям интересно, они могут поискать в Интернете статью под названием «Курс MBA от водителя такси». Суть заключается в анализе данных. Встречать людей в аэропорту, забирать в определенном месте, где можно хорошо навариться… Водители, способные внимательно наблюдать и оценивать ситуацию, будут продуктивнее и заработают больше денег, чем конкуренты. Конечно, для простого бизнеса такого уровня анализа достаточно. В результате, при среднем доходе таксиста в три тысячи юаней, догадливый водитель получал больше восьми тысяч – поразительная эффективность.

[3] Зрение – это не просто функция сетчатки. Ее роль заключается в улавливании света, а обработка изображений происходит в головном мозге. Аналогичным образом телескопы только собирают свет, а для получения значимых изображений на его основе требуется комплексная обработка данных. В этом смысле зрение – это своего рода интеллект (прим. автора).