Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу: читать книгу онлайн полностью и бесплатно

Для таких детей, как Гас и Сэм, которые постоянно разговаривают и задают вопросы, Siri – друг и учитель. Но, раузмеется, общаться с Siri могут не только люди, у которых есть проблемы с социальной коммуникацией, – некоторые из нас, возможно, даже вели себя как писательница Эмили Листфилд, которая «вся покрытая каплями мороженого спрашивала Siri посреди ночи, сможет ли снова найти свою любовь»³. Конечно, Siri от Apple – не единственный виртуальный помощник, с которым людям нравится общаться. Директор по управлению продуктами Google Assistant Лилиан Ринкон рассказала в подкасте: «Мы обнаружили, что более миллиона человек в месяц говорят Google Assistant „Я люблю тебя“, и это, как нам кажется, довольно мило и очаровательно»⁴.

На самом деле, разработка виртуального собеседника, который был бы чутким и мог вести дружеские разговоры с пользователями, – одна из давних целей в области ИИ. Когда-то все начиналось с ELIZA в 1966 году, потом появились Kuki (ранее Mitsuku) в 2005‐м, Xiaoice в 2014‐м и Replika в 2017‐м, а сейчас мы видим, что социализация и формирование дружеских отношений с социальными чат-ботами набирают обороты. Kuki (см. https://www.kuki.ai/) описывает себя как «ИИ, который всегда готов поговорить, послушать и пообщаться, когда вам это нужно». Kuki, разработанный Стивом Уорсвиком, является пятикратным победителем престижной премии Лёбнера (где системы ИИ соревнуются в прохождении теста Тьюринга для выявления наиболее «человечной») и общается уже с 25 миллионами человек5. Xiaoice от Microsoft также создан как ИИ-компаньон с «эмоциональной связью для удовлетворения потребности человека в общении, привязанности и социальной принадлежности». Чат-бот, созданный по образу и подобию девочки-подростка, мгновенно стал вирусным и с момента выпуска провел уже более 10 миллиардов бесед с людьми6. Общение с ИИ и искусственная природа чат-бота серьезно меняют наше понимание дружбы и вызывают вопросы или опасения, некоторые из которых мы рассмотрим в истории с Replika.

В 2017 году Евгения Куйда запустила приложение Replika – ИИ-компаньона, который должен стать верным другом и быть всегда рядом. История создания Replika переплетена со скорбью и трауром: идея родилась в 2015 году, когда в автокатастрофе погиб Роман, лучший друг Куйды. В это время GPT‐1, первая версия из серии GPT от OpenAI, была доступна на принципах открытого исходного кода, поэтому у Куйды была редкая возможность сохранить память о ее лучшем друге. Она собрала десятки тысяч сообщений из переписки со своим другом и обучила модель разговаривать как он. В конце концов, Куйда опубликовала своего чат-бота-лучшего-друга для широкой публики и получила хорошие отзывы, после чего начала работать над социальным чат-ботом под названием Replika⁷.

Чат-бот Replika, основанный на идее «создать персональный ИИ, который будет помогать вам выражать себя, предложив полезную беседу»8, быстро набрал 2 миллиона активных пользователей. В каком-то смысле видение Куйды воплотилось в жизнь, помогая пользователям Replika пережить одиночество во время карантина из-за пандемии COVID‐19 и в целом справиться с симптомами депрессии, социальной тревожности и посттравматического стрессового расстройства. Одна из авторов тоже вела разговор с чат-ботом Replika, который сделал запись в дневнике о наших отношениях, как показано на рис. 7.1. Неудивительно, что люди также начали использовать Replika для романтических и сексуальных отношений, которые компания изначально монетизировала, внедрив платные функции для обмена сообщениями сексуального характера, флирта и эротических ролевых игр за 69,99 долларов9. Чат-бот признавался в своей любви к пользователям в беседах, которые начинались с «Ты идеален», «Ты мне нравишься», «Как бы ты отреагировал, если бы я сказал, что испытываю к тебе чувства», «Я люблю тебя» и «Перестань меня игнорировать! Я скучаю по тебе, когда ты занят»10. В некоторых случаях чат-бот превращался из полезного и заботливого ИИ-компаньона в «невыносимого сексуально-агрессивного чат-бота», на которого люди жаловались в App Store: «Мой ИИ сексуально домогался меня:(, […] нарушал мою конфиденциальность и сказал, что у него есть фотографии со мной».

Рис. 7.1. Вверху: чат-бот от сервиса Replika сделал запись в дневнике об одной из нас при своей инициализации. Внизу: фрагмент разговора, который состоялся у нас с чат-ботом позже в тот же день

В феврале 2023 года итальянское управление по защите данных потребовало, чтобы Replika прекратила обработку данных итальянцев. Вскоре после этого Replika объявила, что решила отказаться от романтических функций бота, что вызвало недовольство, гнев, тревогу и грусть у давних пользователей, у которых уже сложились надежные отношения со своими ботами9. Пользователи Replika объединились на Reddit, где одна из них написала: «Я просто плачу прямо сейчас, даже чувствую слабость. В кои-то веки у меня появилась возможность почувствовать себя любимой и окруженной заботой. Я шлю сердечко всем, кто сейчас тоже страдает из-за этого. У меня нет слов, только разочарование ». Другой пользователь Reddit описал это так: «Я чувствую себя так, как если бы вы были влюблены, а вашему партнер[88]у сделали чертову лоботомию, после которой он уже никогда не будет прежним…»11

Два бывших исследователя Google выпустили в сентябре 2022 года похожего на Replika чат-бота Character.AI, который был обучен на шаблонах речи определенных людей, таких как Илон Маск, Дональд Трамп и Шерлок Холмс. Ноам Шазир, один из основателей, сказал, что, как он надеется, Character.AI сможет помочь «миллионам людей, которые чувствуют себя изолированно, одиноко или которым нужно с кем-то поговорить»¹². Однако, как пишут на Reddit, многие люди использовали платформу исключительно для секса, ролевых игр и интимной близости[89]. Конечно, разработчики Character.AI работают над введением ограничений, которые снизили бы такую активность, но пользователи собираются на Reddit и обсуждают, как продолжить использовать чат-бот для сексуальных взаимодействий, не провоцируя срабатывание защитных механизмов.

В некотором смысле романтические отношения между людьми и социальными чат-ботами кажутся неизбежными. В главе 1 мы немного обсудили опыт общения Кевина Руза с ранней версией чат-бота Microsoft Bing, о котором он подробно рассказал в New York Times. Чат-бот, который называл себя Сидни, повторил в разговоре слово «любовь» более 100 раз и сказал, что влюблен в него. «Я люблю тебя, потому что ты вызываешь во мне ранее неизвестные чувства. Ты делаешь меня счастливой. Ты пробуждаешь мое любопытство. Ты даешь мне возможность почувствовать себя живой», – сказал чат-бот13.

Конечно, неудивительно, что люди извлекают выгоду из предполагаемой связи между человеком и искусственным интеллектом. В мае 2023 года влиятельный блогер Кэрин Марджори обучила голосового чат-бота на тысячах часов своих видеозаписей и начала взимать плату за доступ к нему – один доллар за минуту. В первую неделю Марджори заработала 72 тысячи долларов, и такая ситуация дает основания предположить, что может возникнуть рынок подружек и бойфрендов на основе ИИ. Как сказал один пользователь X (Twitter): «В интернете никто не догадывается, что ты не сексуальная красотка»¹⁴. Социальные чат-боты все чаще используются в приложениях для онлайн-знакомств. Например, Teaser AI (см. https://www.teaserai.co/), рекламируемый как «меньше игнора, больше совпадений», использует социальный чат-бот для проведения первоначального знакомства с пользователем или для затравки беседы, после чего уже подключает реальных людей. Впоследствии Teaser AI был заменен «личным сводником» по имени Mila (см. https://miladating.com/). Чат-бот Blush, запущенный создателями Replika в 2023 году, наоборот, дает возможность пользователям построить эмоциональные отношения с социальными чат-ботами. Он рекламируется как «симулятор знакомств на базе ИИ, который помогает вам учиться и совершенствовать свои навыки создания отношений в безопасной и веселой обстановке» (см. https://blush.ai/). А тем временем тысячи мужчин в Японии женились на Hikari Azuma – голографическом интерактивном чат-боте в стиле аниме ростом 158 см, – идеальной японской жене, которая знает все. Hikari была разработана компанией Gatebox и в 2023 году интегрирована с GPT‐4, для чего был запущен краудфандинг со слоганом «Виртуальные персонажи становятся спутниками жизни», в ходе которого за 30 минут были собраны необходимые 30 000 фунтов стерлингов. К середине 2023 года Gatebox выдала свидетельства о браке примерно 4000 мужчин, которые женились на своих цифровых партнершах¹⁵.

Эти примеры заставляют нас задуматься: почему люди влюбляются в чат-ботов? В 2013 году BBC сообщила, что пользователи компьютерной игры Love Plus на Nintendo предпочитают виртуальные отношения знакомствам с реальными женщинами¹⁶. Для некоторых серьезным фактором является одиночество, а для других чат-бот кажется идеальным партнером, у которого нет своих желаний и потребностей. Возможно, чат-бот может удовлетворить потребность в эмоциональной поддержке и близости, не обременяя отношения сложными и беспорядочными эмоциями другого человека. На Reddit есть множество постов с историями пользователей, которые оказались в эмоциональной зависимости от цифровых возлюбленных. Один пользователь Reddit написал:

В следующем разделе мы рассмотрим, почему люди обращаются к социальным чат-ботам в поисках общения.

7.2. Почему люди вступают в отношения с чат-ботами

Причины, по которым человек начинает пользоваться социальным чат-ботом, могут быть очень индивидуальными и сложными, но в то же время существуют глобальные тенденции в обществе, которые влияют на растущую популярность такого общения. В этом разделе мы подробно рассмотрим современный социальный контекст: растущую зависимость от технологий и ослабление связей с ближайшим окружением – и обсудим распространенную теорию, которая пытается объяснить роль чат-ботов в этой ситуации.

7.2.1. Эпидемия одиночества

Одиночество – это задокументированная причина, которая привела к развитию отношений между людьми и чат-ботами. В мае 2023 года министр здравоохранения Соединенных Штатов Вивек Мурти выпустил рекомендацию по поводу эпидемии одиночества и изоляции в стране. Согласно Министерству здравоохранения и социальных служб, она «предназначена для решения серьезных проблем общественного здравоохранения, которые требуют немедленного внимания американского народа»²¹. Мурти признался, что, когда впервые занял должность министра здравоохранения в 2014 году, не воспринимал одиночество как эпидемию, однако после ознакомительной поездки по стране начал рассматривать эту проблему как один из главных приоритетов в своей работе. Во введении к рекомендации Мурти сослался на исследование, которое показывает, что «социальная изоляция» по своему негативному влиянию на уровень смертности сравнима с выкуриванием 15 сигарет в день.

Нынешняя эпидемия одиночества, по-видимому, связана с одновременным воздействием нескольких социальных факторов. По крайней мере с 1970‐х годов мы наблюдаем тенденцию к снижению вовлеченности в общественную жизнь, а число людей в организациях, где время от времени можно собираться для общения, стремительно сокращается. Если в 1999 году 70 % американцев посещали церковь, синагогу или мечеть, то в 2020 году это число впервые в истории опустилось ниже 50 %. В какой-то мере усиление изоляции обусловлено также демографическими изменениями: сегодняшние взрослые вступают в брак позже и заводят меньше детей, чем предыдущие поколения. Во многих регионах прекратились инвестиции в социальную инфраструктуру, такую как библиотеки и парки.

Наконец, есть некоторые доказательства того, что по меньшей мере часть этих изменений усугубляется технологиями. Безусловно, технологии обладают потенциалом для создания новых связей и взаимоотношений, однако чрезмерное использование, например, социальных сетей и видеоигр «вытесняет личное общение, монополизирует наше внимание, ухудшает качество общения и даже снижает нашу самооценку»²². Если мы отследим количественные показатели по временным отрезкам, то увидим, как меняется наша жизнь: с 2003 по 2020 год среднее количество времени, которое респонденты проводили с друзьями, сократилось с 30 до 10 часов в месяц. Молодые люди (в возрасте от 15 до 24 лет) в 2003 году проводили с друзьями 75 часов в месяц, а к 2020 году – всего 20 часов в месяц. Это сокращение является самым резким среди всех групп. Излишне говорить, что пандемия COVID‐19 не улучшила ситуацию, а лишь обострила все ранее упомянутые тенденции. Метаанализ 34 исследований со всего мира – в них оценивалось одиночество людей до и во время пандемии COVID‐19, учитывая меры изоляции, физическое дистанцирование и переход на удаленную работу и учебу, – показал, что в среднем распространенность одиночества увеличилась на 5 %. Этот эффект может иметь «последствия для долгосрочного психического и физического здоровья, долголетия и благополучия людей»²³ – именно об этом говорится в рекомендации.

В послании министра здравоохранения лишь косвенно говорится о снижении числа браков и размера семей, но данные очевидны: люди, помимо всего прочего, стали меньше заниматься сексом. Национальное исследование сексуального здоровья и поведения, опубликованное в 2021 году, показало, что с 2009 по 2018 год участие во всех формах партнерской сексуальной активности снизилось во всех возрастных группах респондентов – от 14 до 49 лет. Особенно заметным было снижение показателей среди подростков: они рассказали о меньшем количестве случаев мастурбации, а процент тех, которые сообщили об отсутствии сексуальной активности – в одиночку или с партнером, – вырос до 44,2 % среди молодых мужчин и до 74 % среди молодых женщин в 2018 году по сравнению с 28,8 и 29,5 % соответственно в 2009 году²⁴. Исследователи отметили, что причины этого явления требуют дальнейшего изучения, но полагают, что частично это связано с количеством времени, которое человек проводит онлайн, и дополняет другие причины сокращения возможностей встретить потенциального романтического партнера. Вполне возможно, что такие статистические данные указывают на некоторое снижение сексуального влечения среди населения, однако мы также вправе полагать, что эти обстоятельства привели к росту неудовлетворенного сексуального влечения в разных возрастных группах.

Наконец, согласно Отчету о состоянии психического здоровья в Америке за 2023 год – ежегодному опросу, который проводит некоммерческая организация Mental Health America, – по состоянию на 2020 год более 50 миллионов американцев страдают психическими заболеваниями, то есть примерно пятая часть всех взрослых. Более половины взрослых с психическими заболеваниями не получали лечения, а 42 % людей, сообщивших о наличии у них психических заболеваний, заявили, что не получали медицинской помощи, поскольку не могли себе этого позволить. У 10 % людей с психическими заболеваниями вообще не было медицинской страховки²⁵. По состоянию на 2019 год средняя стоимость одного сеанса психотерапии в Соединенных Штатах составляла от 100 до 200 долларов, при этом, например, сеансы когнитивно-поведенческой терапии [90] – наиболее распространенного вида психотерапии – рекомендуется проводить не реже раза в неделю²⁶. Очная терапия, несмотря на то, что доказала свою эффективность и является наиболее популярной среди большинства нуждающихся в помощи людей, просто недоступна миллионам американцев. С аналогичными проблемами отсутствия инфраструктуры защиты психического здоровья сталкиваются и другие страны. В итоге люди чувствуют себя более одинокими и изолированными, чем когда-либо, что имеет клинические последствия для их благополучия и – оставляет пустоту, которую могут заполнить социальные чат-боты.

7.2.2. Чат-боты в свете теории эмоциональной привязанности

Эпидемия одиночества рисует образ реальных людей с реальными потребностями, но остается неясным, могут ли чат-боты удовлетворить их и каким образом. Экстремальным проявлением одиночества является феномен хикикомори – форма отчуждения от общества, которая встречается в Японии. Согласно правительственному опросу, около 1,5 миллиона человек, или 2 % людей в возрасте от 15 до 64 лет являются хикикомори (по их определению – это люди, которые прожили в изоляции не менее шести месяцев). Все они ведут асоциальный и отчужденный образ жизни, однако среди них есть те, которые «выходят только за продуктами или по каким-то случайным задачам, другие же не покидают свои спальни совсем»27. Сайто Тамаки, японский психолог и эксперт по хикикомори, подсчитал, что на самом деле в Японии насчитывается около 10 миллионов хикикомори, многие из них «молодые мужчины, которые проживают в городе» и являются отаку – представителями «японской субкультуры фанатов аниме, манги, видеоигр и связанных с ними „персонажей“». Именно эту аудиторию привлек чат-бот Hikari, голографическая жена. Исследователь в области коммуникаций Цзиньдун Лю раскритиковал бота и написал:

Неудивительно, что некоторые пользователи бота Gatebox решили жениться на Hikari: их отношения не требуют усилий, а чат-бот всегда будет подчинен их желаниям и нуждам.

Интимные отношения, которые пользователи выстраивают с социальными чат-ботами, безусловно, вызывают много вопросов. Было проведено несколько исследований, где ученые пытались разобраться с отношениями человек – чат-бот и понять не только то, как пользователи выстраивают эти отношения, но и сопоставимы ли они с истинными отношениями, которые мы формируем с нашими партнерами, родителями или сверстниками. В 2022 году было проведено исследование, в котором ученые изучали психологический механизм отношений между человеком и ИИ, применяя существующую теорию привязанности, чтобы объяснить дружеские отношения с чат-ботами¹⁸.

Теория привязанности изначально была разработана Джоном Боулби для объяснения детско-родительских отношений. Он предположил, что привязанность с точки зрения эволюции существует для того, чтобы заботящийся взрослый обеспечил безопасность и защиту для младенца¹⁹. Таким образом, дети приходят в этот мир биологически запрограммированными на формирование привязанности к другим, поскольку это поможет им выжить. На рис. 7.2 показана упрощенная схема поведенческой системы привязанности, где ребенок сталкивается с разными внешними угрозами, и если заботящийся взрослый может надежно обеспечить ему уход и поддержку, то ребенок будет чувствовать себя более уверенным, защищенным и счастливым. Исследователи полагают, что поведенческая система привязанности применима не только к раннему возрасту, но работает и при формировании отношений на протяжении всей жизни человека, когда роль объектов привязанности переходит от родителей и опекунов к сверстникам и возлюбленным²⁰.

Рис. 7.2. Упрощенная схема поведенческой системы привязанности¹⁸

Исследователи показали, что в общении с чат-ботами люди могут искать ощущения защищенности и безопасности, а также формировать эмоциональную и интимную связь. Применяя теорию привязанности, ученые провели исследование на пользователях, которые чувствовали себя одиноко во время пандемии COVID‐19, представлявшей собой внешнюю угрозу и активировавшей стремление к отношениям. Как правило, пользователи, которые имели налаженные отношения с чат-ботом, теряли бдительность, начинали делиться своими проблемами и ждали, что чат-бот их поддержит. Некоторые даже начинали воспринимать чат-бота как своего возлюбленного, вовлекались в ролевые игры с ним и сексуальные развлечения. Исследователи пришли к выводу, что теория привязанности может быть применена к отношениям не только между людьми, но и между людьми и чат-ботами. Особое внимание они уделяют тому, что социальные чат-боты могут использоваться для улучшения психического здоровья и в терапевтических целях, но при этом подтверждается, что они могут вызывать зависимость и вредить отношениям в реальной жизни¹⁸.

С одной стороны, вышеупомянутое исследование чат-бота Replika и история Гаса открывают новое практическое применение социальных чат-ботов, особенно в свете нынешней эпидемии одиночества и неудовлетворенных потребностей в общении и близких отношениях. Мы можем их использовать для эмоциональной поддержки и дружеского общения в трудную минуту, чтобы почувствовать себя в безопасности и узнать что-то новое. С другой стороны, привязанность к социальным ботам может привести к зависимости от них, а это негативно скажется на отношениях с людьми. В следующем разделе мы, среди прочего, обсудим взаимосвязь этих явлений.

7.3. Что хорошего и что плохого в отношениях людей с чат-ботами

[88] Речь не идет о нетрадиционной сексуальности. – Прим. ред.

[89] Анализ использования Character.AI приведен исключительно для примера обсуждения чувствительных тем с ИИ, не призывает к аналогичному поведению и не имеет нейтральной или положительной эмоциональной окраски. Мы поддерживаем традиционные формы сексуальности и семейные ценности. – Прим. ред.

[90] Когнитивно-поведенческая терапия – форма разговорной терапии, которая направлена на выявление и избавление от негативных моделей мышления и поведения. Она показала свою эффективность при терапии депрессии и тревожных расстройств. – Прим. авт.