Психология достоинства: Искусство быть человеком: читать начало книги онлайн

Только новы ли эти страхи? Вовсе нет. Поэт Андрей Вознесенский, с которым мне приходилось общаться, в свое время писал: «Нас темные, как батыи, / машины поработили. <…> / А в ночь, поборовши робость, / создателю своему / кибернетический робот: / "Отдай, – говорит, – жену! / Имею слабость к брюнеткам, – говорит. – Люблю / на тридцати оборотах. Лучше по-хорошему уступите!.."» Это было написано в начале 1960-х годов.

Не так давно опубликовано открытое письмо, подписанное Илоном Маском, Стивом Возняком и другими знаменитыми людьми с призывом остановить гонку по совершенствованию искусственного интеллекта. В письме говорилось, что риски развития сложных систем достигли апогея. Если когда-то в далеком прошлом человечество преследовали страхи о Големе или Франкенштейне, то сегодня такие опасения могут стать былью.

Мы всегда пытались что-то «натворить» в этом мире, изобретая нечто не до конца понятное. Зачастую потом сталкивались с парадоксом, принимавшим облик ужаса: «Что же мы наделали?!» Подобное происходит и сейчас.

Но почему-то не все оказались согласны с формулировками письма. Спросили знаменитого американского лингвиста и философа Ноама Хомского: «Почему вы, Ноам Хомский, не подписали письмо Маска и других авторов?» Ответ Хомского был таким: «Не преувеличивайте сложности искусственного интеллекта. Ключевые сложности заключаются в том, что человечество оказывается неспособным противостоять тем манипуляциям, которые лишают людей критического мышления».

Постараюсь так определить суть позиции Ноама Хомского: чтобы образование не осталось позади мира, в котором сон разума по-прежнему рождает чудовищ (а бессонница разума – генеративный искусственный интеллект), требуется прежде всего многим людям научиться работать со сложностью. А для этого понадобится образование, которое порождает критическое мышление свободных людей.

«Виртуализация» жизни не столько создает, сколько усиливает многие процессы, носящие социально-психологический характер. У человека за компьютером возникает эффект обратимости: все сложилось удачно – выиграл, а проиграл – можно переиграть.

Другая печаль: когда наши виртуальные помощники-гаджеты становятся недоступны – мы оказываемся в ситуации социальной асфиксии. Феномен фантомных болей: когда вы забыли дома телефон, вам становится так нехорошо, будто у вас отрезали руку.

Еще одна беда, когда вы отдаете гаджетам возможность принятия решения за себя и отучаете от этого свой разум. Некоторые утверждают, что если вместо умножения простых чисел в уме вы предпочитаете делать это на калькуляторе, то тем самым «растренировываете» свою голову.

Так ли это относительно таблицы умножения, судить не возьмусь. Но очевидная глобальная опасность – массовая привычка пользоваться внешним умом, подбором аргументов из телевизионной или компьютерной виртуальности в тот момент, когда нужно делать свой ответственный жизненный выбор. Так виток за витком исходная социальная слабость человека превращается в безнадежную социальную беспомощность.

Целый ряд моих коллег-психологов считает, что подобного рода деградация общества уже торжествует. Но виновны в этом не машины и гаджеты, а мы сами.

Вытеснит ли эпоха роботов эпоху человека, проиграем ли мы технологиям искусственного разума в процессе эволюции? Перед наукой и искусством встает ключевая задача осмыслить, чем человек специфичен, в чем главная особенность его природы, чем он отличается от многих других собратьев на лестнице эволюции.

Так в разговоре с замечательным актером и мудрейшим человеком отчетливо прояснился тезис: будущее у нас не одно на всех, будущих много, и этой мысли хорошо бы стать привычной.

Люди всегда стремились заглянуть в будущее. Но одна из величайших опасностей этих естественных порывов – составить единый прогноз, вынести всем «приговор к будущему» (даже вообразив его прекрасным). Когда мы говорим: «Вперед, в будущее!» – то рискуем впасть в ошибку, которую я называю «грехом финальности». Мы склонны приговорить самих себя к иллюзии жестко детерминированного будущего, а жизнь своих детей заковать в чужие мечты или страхи.

Грех самосбывающихся пророчеств в том, что они и правда склонны воплощаться. Попробую довести ситуацию до абсурда и спросить: а хотел бы, например, Маркс жить при коммунизме? Вот сбылось бы его пророчество, присел бы он за один столик, например, с Оруэллом, а где-то бы «пил свой кофе молча» («Только некто пил свой кофе молча» – так в известном стихотворении Дмитрия Кедрина) Кафка и посматривал на них с недюжинной иронией.

Иными словами, образ какого-то единого будущего, даже самого распрекрасного, означает лишение человеческого развития дара непредсказуемости, ключевого элемента человеческой сущности.

А заглянуть в будущее люди стремятся всегда. Более того, человек приходит в настоящее не из прошлого, он конструирует свое настоящее как реализацию образа ожидаемого, желательного будущего.

Такое положение покажется странным, нелинейным. Но если мы говорим о человеке, то должны понимать: человек – незавершенный проект эволюции.

Точнее сказать, человек – незавершаемый проект эволюции.

И таким он был всегда. Человек вечен – но вместе с тем его возможности меняются от эпохи к эпохе.

В связи с этим напомню работу филолога Виктора Ярхо с парадоксальным названием «Была ли у древних греков совесть?». И, оказывается, совесть далеко не всегда была заметной ценностной характеристикой поведения человека. (Стыд, страх публичного позора уже были, а совести почти не наблюдалось.)

Совесть (как, кстати, и самосознание) – относительно поздний культурный продукт антропогенеза. Каждый раз, когда мы рассуждаем о совести, мы сталкиваемся с вопросом: как жить с непохожими людьми. Как подчеркивал мой друг, социолог Игорь Семенович Кон, человечество не раз оказывалось в зазоре между двумя нормативными механизмами контроля поведения: механизмами страха и механизмами совести.

В наш век совесть как совместная весть лежит в основе морального выбора, отделяющего человеческие поступки от трагедий расчеловечивания.

Вопрос о совести – один из вечных вопросов, которые входят в ту аксиоматику нравственности, без которой невозможно с доверием и взаимной радостью жить с непохожими людьми. А без этого вряд ли получится справиться и с рисками развития технологий.

Когда-то было изобретено колесо. Разве нет повода ужаснуться, сколько за эти тысячелетия погибло под колесами людей – от боевых колесниц древности до нынешних автомобильных?.. Но виновно ли в том колесо и его изобретатель?

Вспомним, что в основе когнитивной революции, без которой не было бы искусственного интеллекта, лежала компьютерная метафора «человек есть устройство по переработке и извлечению информации». Только метафора эта глубоко частична. Мой учитель Алексей Николаевич Леонтьев говорил: «Самое страшное, что, создавая искусственные системы, мы вдруг забываем, что сами их создали, и начинаем учиться у искусственного интеллекта уму-разуму».

Это блистательная формула. Самая большая опасность здесь. Люди вдруг безропотно подчиняются тому, что сами сочинили. Когда мы начинаем верить, что та или иная созданная нами система сильнее человека, – разве в этом виновен искусственный интеллект? В этом виновен тот образ мышления, которому мы подчиняемся. (Кстати, возможно, искусственный интеллект вызывал бы у нас меньше страхов, если бы мы термин artificial переводили на русский как «рукотворный», а не как «искусственный».)

Лично у меня больше опасений вызывает не искусственный интеллект, а вполне человеческий технократический разум, которым обладают люди, принимающие решения.

Беда в нем, а не в искусственном интеллекте – это раз, и в «цивилизации статуса» – это два. Всегда в ходе развития люди выбирают: быть многим или обладать многим. Когда один руководитель оценивает другого по тому, есть ли у него личный туалет в кабинете, – то здесь «шестеренки зацепляются» и приоритет статусности ведет за собой принцип «я начальник, ты дурак», гарантируя стремление к технократической простоте решений.

В свое время философ и методолог Георгий Петрович Щедровицкий отчетливо сформулировал: «Попытка простого решения сложных проблем – это и есть то, что мы называем фашизмом». Примитивные решения, принимаемые в сложном мире, ведут к ужасным последствиям.