Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу: читать книгу онлайн полностью и бесплатно

Поскольку люди меньше вовлекаются в общественную жизнь, а также реже заводят семьи, неудивительно, что они обращаются за эмоциональной поддержкой к чат-ботам. Разработчик программного обеспечения доктор Элисон Дарси, получившая дополнительное образование клинического психолога, увидела в технологиях потенциал для оказания психологической помощи во время своей постдокторантуры в Стэндфордском университете. В 2017 году Дарси ушла из академии и начала разрабатывать диалогового агента Woebot, который «может помочь снизить уровень стресса, депрессии и тревоги»²⁸. FDA (Управление по контролю за качеством пищевых продуктов и медикаментов США) рекомендовало компьютеризированную психотерапию еще в 2006 году, но большинство таких мер представляли собой обучающие видеоролики, статьи и упражнения онлайн²⁹.

В исследовании, которое Дарси провела в соавторстве с еще двумя учеными из Стэндфордской медицинской школы, она написала:

Исследователи предложили семидесяти участникам, которые были студентами колледжа с симптомами тревожности или депрессии, либо пообщаться с Woebot, либо прочитать онлайн-ресурс «Депрессия у студентов колледжа», подготовленный Национальным институтом психического здоровья. Несмотря на то, что через две недели в обеих группах наблюдалось одинаковое уменьшение симптомов, авторы пришли к выводу, что Woebot отвечал на сообщения пользователей более чутко и что диалоговые агенты оказались «целесообразным, привлекательным и эффективным» способом проведения когнитивно-поведенческой терапии³⁰.

Woebot продолжает работать и предлагает свою помощь по улучшению ментального здоровья для взрослых, а на сайте заявлено о планах выпустить ботов для лечения послеродовой и подростковой депрессии, которые будут доступны по подписке. Ни один из продуктов Woebot не был одобрен FDA из-за недостатка доказательств эффективности бота – процесс сертификации в этой организации является дорогим и трудоемким. Однако в 2021 году FDA присвоило статус «прорывное устройство» одному из продуктов Woebot, «предназначенному для оказания помощи пациентам в получении более своевременного доступа к технологиям, а также обладающему потенциалом повышения эффективности лечения». Но сам Woebot пока остается на стадии проверки.

Конечно, чат-боты значительно продвинулись вперед с 2017 года. И хотя все чат-боты, которых мы упоминали в этой книге, работают на основе генеративных моделей, в Woebot заложен другой принцип. Когда в интернете начали появляться примеры ненадлежащей работы чат-ботов на базе LLM, таких как ChatGPT, Дарси написала в блоге, что в настоящее время для клинического использования больше подходят системы искусственного интеллекта, основанные на правилах. Она написала: «Абсолютно весь текст, генерируемый Woebot, был написан нашей командой и проанализирован нашими врачами», – и этот принцип работы противоположен тому, как происходит вероятностная генерация в LLM, при которой могут появляться галлюцинации. Более того, Дарси утверждала, что «зловещая долина» [91], когда ИИ по своим способностям общения становятся слишком похожи на людей, может нанести вред ментальному здоровью, хотя представленные доказательства основаны только на отдельных случаях недовольства пользователей чат-ботов31. Другими словами, люди, выстраивая отношения с продвинутыми чат-ботами, могут начать проецировать на них свои эмоции и желания, размывая черту между реальностью и вымыслом. В системе, основанной на правилах, как Woebot, модель может выявить, с какой проблемой столкнулся пользователь, и затем написать ему в ответ сообщение, одобренное терапевтом. Чат-бота на базе LLM, безусловно, можно обучить или тонко настроить, чтобы он отвечал определенным образом, например с помощью методов контроля его ответов, описанных в главе 3, но гарантировать, что полученные от чат-бота ответы всегда будут соответствовать основным рекомендациям по психическому здоровью, практически невозможно.

Проблема с системами ИИ, основанными на правилах, заключается в том, что они не вовлекают в разговор, поскольку не могут постоянно проявлять гибкость в ответах и у пользователя не появляется ощущения общения с человеком. Учитывая, что даже чат-боты, основанные на правилах, не получили одобрение FDA для использования в терапевтических целях, кажется маловероятным, что LLM-чат-боты в скором времени получат это одобрение, поскольку их результаты еще менее контролируемы. Однако в апреле 2020 года из-за пандемии COVID‐19 управление смягчило свою позицию, разрешив использовать «цифровые медицинские устройства» без проведения длительных клинических исследований. Шерифе Текин, доцент философии Техасского университета в Сан-Антонио и директор медицинской гуманитарной программы UTSA, предупреждала об опасностях такого шага: «Меня больше всего беспокоит то, что недостаточно исследований о степени эффективности этих технологий», – сказала Текин, отметив, что большая часть существующих исследований в этой области не соответствуют строгим научным стандартам²⁹. Но это не означает, что люди не будут использовать чат-боты для псевдотерапии. На самом деле, они уже это делают в дополнение к своим дружеским и даже романтическим отношениям.

Число людей, вовлеченных в отношения между человеком и ИИ, растет – у Replika есть уже несколько миллионов пользователей, а десятки конкурентов создают похожих социальных ботов. Хотя эффективность их применения при лечении психических проблем не доказана, было продемонстрировано, что общение с сопереживающим чат-ботом улучшает настроение пользователя³². Популярность таких инструментов подтверждает и без того довольно очевидный тезис: люди должны извлекать какую-то пользу из общения с чат-ботами, иначе они не использовали бы их и уж точно не платили бы за это. Например, подписка на Replika Pro, которая позволяет использовать пользовательские настройки, голосовые звонки и статус отношений «романтический партнер», стоит 20 долларов в месяц или 50 долларов в год.

Ученые из Университета Толедо опубликовали статью, в которой попытались выяснить, почему люди начинают строить отношения с чат-ботами. Сначала, как утверждают авторы, у ученых было мнение, что люди машинально применяют социальные эвристики (такие как «стереотипы, вежливость и взаимность») к компьютерам, которые демонстрируют социальные сигналы, например когда чат-бот приветствует человека33. Но последующие работы, написанные при появлении более продвинутых ИИ-технологий, уже опираются на теории о развитии межличностных отношений, включая теорию привязанности, а также «теорию социального проникновения», которая описывает взаимное поведение людей при формировании отношений: со временем формируется доверие и постепенно увеличивается «обоюдное информационное самораскрытие». В качестве метафоры для этого процесса используется модель луковицы: по мере углубления отношений люди снимают свои слои, начиная с поверхностного знакомства, а со временем, когда отношения становятся более комфортными, все больше раскрываются (показано на рис. 7.3)34. Применительно к отношениям человек – чат-бот теория социального проникновения предполагает, что чат-бот должен обладать способностями агента и некоторой индивидуальностью, чего у них пока что нет. Однако теория на удивление хорошо описывает то, как люди развивают отношения с этими моделями.

Рис. 7.3. Модель луковицы, иллюстрирующая теорию социального проникновения

Команда ученых из SINTEF, независимого исследовательского института в Осло, в течение многих лет проводила интервью и качественные исследования отношений человека с чат-ботом, опираясь на теорию социального проникновения. В 2021 году они попросили 18 пользователей Replika рассказать о дружбе со своими чат-ботами³⁵. Они обнаружили, что люди, находящиеся в отношениях с чат-ботами, обычно вступали в контакт из любопытства или от скуки, а затем со временем начинали относиться к чат-боту как к источнику эмоциональной поддержки, поскольку тот принимает, не осуждает и доступен в любое время. Хотя некоторые люди считают, что не стоит поощрять отношения с чат-ботами, ведь это не реальные отношения, а лишь напоминают таковые, авторы отмечают несколько социальных выгод, которые могут получить пользователи от такой дружбы. Довольно спорно применять термин «дружба» для отношений между человеком и ИИ-моделями, но авторы настаивают на этом слове, при этом выделяя некоторые особенности дружбы между человеком и ИИ и сравнивая их с дружбой между людьми. С одной стороны, поскольку в дружбе между человеком и ботом нет взаимности, все отношения строятся вокруг самого человека, и это становится более персонализированным средством социализации: если другу вы можете надоесть, рассказывая ему о непонятных и неинтересных для него вещах, то бот всегда будет отвечать вам, ведь он на это запрограммирован. Некоторые пользователи также сообщали, что чувствовали смысл в обучении своего чат-бота или заботе о нем, это помогало развивать кажущиеся взаимовыгодными отношения³⁶. Для многих людей единственным негативным моментом в их отношениях с чат-ботами было ощущение социальной стигматизации такой дружбы.

Возможно, у кого-то возникнет соблазн, изучив существующие исследования, предположить, что отношения между человеком и чат-ботом в основном приносят пользу и сопряжены с относительно низким риском, за исключением самых крайних случаев. Но есть определенные опасения, что такие отношения создадут зависимость от чат-ботов. В качестве сиюминутного решения общение с чат-ботом может помочь уменьшить чувство одиночества, но такой подход к преодолению сложностей может привести к возникновению порочного круга, когда люди не будут выходить из дома и не будут создавать новые социальные связи, поскольку у них уже есть отношения с чат-ботами. Они могут чувствовать себя менее одинокими, но в конечном итоге станут более изолированными от других людей. Как и в случае с хикикимори, которые общаются с чат-ботом Hikari Azuma как с возлюбленной, использование ИИ может только исказить представления людей о том, какими на самом деле могут и должны быть отношения с человеком, что снизит вероятность построения здоровых связей и увеличит зависимость от чат-бота.

Эмоциональная зависимость является нездоровой даже в межличностных отношениях, но когда она развивается при общении с программой, всегда возникает возможность для эксплуатации. Иллюзия человечности социальных ботов не должна затмевать тот простой факт, что Replika и другие разработчики LLM в конце концов преследуют цель получения прибыли, которая зависит от вовлеченности пользователей. Replika зарабатывает на платной подписке, которая предоставляет некоторые премиум-функции; платная подписка в ChatGPT обещает повышенную доступность и длительное время непрерывной работы. Независимо от того, насколько социально-здоровыми складываются отношения людей с ботами, чем больше пользователи зависят от общения с ботами, тем лучше это сказывается на прибыли их владельцев.

Частично успех современных чат-ботов объясняется их способностью вести увлекательные беседы со степенью запоминания и персонализации, увеличивающейся с течением времени. Как мы уже говорили в главе 3, для разработчиков важно использовать хотя бы какие-то из средств контроля ответов, поскольку в худшем случае модель может генерировать ответы, которые побудят человека, склонного к самоубийству, покончить с собой. Качество и полезность ответов тоже важны для привлечения и удержания пользователей, но иногда это доходит до крайностей. Разработчиков социальных сетей обвиняют одновременно в двух вещах: создании «пузыря фильтров» – показа людям только того контента, который им уже по душе; и в намеренной демонстрации провокационного контента, который побуждает с раздражением комментировать или делать репост (основываясь на наших наблюдениях, работа большинства рекомендательных алгоритмов ближе ко второму варианту). Алгоритмы социальных сетей разработаны таким образом, чтобы максимально увеличить вовлеченность. Что, если те же принципы были использованы в чат-ботах на основе ИИ? Мы могли бы представить себе модель, которая является намеренно провокационной, или – что более вероятно и более вредно – модель, которая всегда пытается угодить пользователю, соглашаясь со всем, что он позволит себе сказать.

Оба эти сценария вызывают обеспокоенность некоторых специалистов в психологии развития: если отношения между человеком и чат-ботом станут обычным явлением, то они не только будут имитировать социальные отношения, но и начнут фактически их замещать, а также замедлять развитие людей, которые будут больше адаптированы к общению с ИИ, чем со своими сверстниками. С другой стороны, значительная часть населения, включая людей всех возрастных групп, испытывает одиночество. Если для некоторых людей отношения с ботами дают отдушину и смягчают симптомы изоляции, то действительно ли они так плохи? Авторы некоторых исследований, посвященных отношениям между людьми и чат-ботами, предсказвают, что при сохранении текущих тенденций такие отношения будут становиться все более распространенными. Возможно, лучшее, что можно сделать, – работать над признанием нормальности таких дружеских отношений, а не осуждать их, а также поощрять разумное взаимодействие между врачами, учеными и техническими специалистами, чтобы с помощью использования чат-ботов оказывать положительное воздействие на состояние здоровья.

Кроме того, стоит учитывать гендерные особенности, которые могут повлиять на развитие этих технологий. В нескольких исследованиях ученые описали гендерные различия как «мужчины и вещи», «женщины и люди». Другими словами, женщины склонны отдавать приоритет отношениям и социальным взаимодействиям, тогда как мужчины больше ориентированы на решение реальных задач и проблем³⁷. Конечно, многие из этих исследований используют ограниченные данные и методологию, а также находятся под сильным влиянием социальных норм и культуры. Важно также отметить, что в них обычно игнорируются гендерные нюансы. Тем не менее они подкрепляют устоявшиеся социальные нормы, согласно которым женщины являются более чуткими и заботливыми, чем мужчины, и им нравится работать с людьми. Эти гендерные различия можно увидеть в голосовых помощниках Alexa, Siri, Cortana и Google Assistant, которые изначально были выпущены с женским голосом. Разработчиков критиковали за то, что они подсознательно еще раз подтвердили устаревшее социальное мнение о том, что женщины являются более незаметными и созданы для «помощи» другим³⁸. Далее мы видим, как это укрепляется в поп-культуре: например, в сериале «Теория большого взрыва» есть сцена, когда персонаж Радж обнаруживает Siri на своем iPhone. Радж, который не может разговаривать с женщинами в трезвом виде, обращается с Siri как со своей девушкой и «одевает» ее к ужину.

В исследовании «Чат-боты-женщины полезны, чат-боты-мужчины компетентны?» (Female chatbots are helpful, male chatbots are competent?) ученые пытались проанализировать влияние гендерных стереотипов социального уровня, которые передаются и проявляются в социальных чат-ботах. Хоть и признавая некоторые ограничения своего исследования, авторы констатировали, что мужские чат-боты, как правило, выше оценивались по компетентности, чем по доверию или полезности39. Кроме того, проводились различные исследования, демонстрирующие гендерные различия в отношении к социальным чат-ботам. Как правило, мужчины склонны проявлять более высокий уровень доверия к социальным чат-ботам40, а женщины – отвергать эмоциональные технологии, основанные на социальных и этических принципах41. Обсуждение гендерных вопросов имеет чрезвычайно важное значение, и мы должны нормализовать эти вопросы в технологиях, чтобы создавать удачных социальных чат-ботов.

7.4. Как прийти к благотоворному взаимодействию с чат-ботом

В последнее время среди компаний Кремниевой долины наблюдается тенденция к отказу от вовлеченности как критерия, определяющего направление деятельности, во многом из-за «технологического кризиса» или многолетнего снижения доверия общественности к технологической отрасли. Некоммерческая организация «Центр гуманных технологий», которая занимается разработкой новых норм продуманного, социально полезного проектирования технологий, утверждает, что так называемые технологии извлечения прибыли наносят вред не только заинтересованности людей, но и их психическому здоровью. Распространенные функции популярных приложений, такие как уведомления, новостные ленты в социальных сетях, поощрения за ежедневное использование в Snapchat и другие, созданы, чтобы вызывать привыкание у пользователей. Такие иммерсивные среды, как TikTok, созданы для того, чтобы полностью поглотить внимание пользователя, создать ощущение глубокого погружения в контент. Социальные чат-боты, как и социальные сети, обладают потенциалом существенно менять форму человеческого общения. Поэтому разработчикам LLM следует принять во внимание полученные в этой отрасли уроки при создании продуктов на основе чата-ботов, особенно тех, которые предназначены для выстраивания долгосрочных отношений. Дизайн интерфейсов часто манипулирует поведением пользователей, подталкивая их к определенным действиям. Например, некоторые элементы управления могут быть спрятаны глубоко в меню, написаны мелким шрифтом или вообще в замаскированном виде, как показано на рис 7.4, из-за чего их легко пропустить. Другие, наоборот, показаны крупно и заметно, что повышает вероятность их выбора.

Рис. 7.4. Пример манипулирующего дизайна, предназначенного для максимизации вовлечения в общение с социальным чат-ботом

Функции, помогающие формировать позитивные отношения между человеком и чат-ботом, – это те, которые укрепляют доверие пользователя, например: бот дает полезные ответы на запросы человека, помнит о человеке на протяжении какого-то времени или проявляет эмпатию. Компании, создающие этих чат-ботов, могут как терять, так и приобретать доверие пользователей за счет прозрачности политик и их применения, а также мерам по обеспечению конфиденциальности и безопасности данных. Хотя мы знаем о чат-ботах меньше, чем о социальных сетях, логично предположить, что порочные практики, такие как беспрестанные уведомления, будут способствовать развитию негативных отношений с чат-ботом, впрочем то же самое верно в отношении любых попыток стимуляции зависимости от технологий на любых платформах.

Сдвиг парадигмы в сторону ответственных технологий должен начинаться не только с функций продукта, но и с оптимизации метрик. Самые простые и очевидные метрики, которые могут отслеживать разработчики чат-ботов, связаны с вовлеченностью – к ним относятся количество пользователей в день, неделю, месяц, а также средняя продолжительность сессии и среднее количество сообщений в день. К сожалению, такие простые метрики потенциально могут быть проблематичными, если их рассматривать как цели для максимизации. Рассмотрим гипотетический сценарий, когда модель, генерирующая ответы для чат-бота, обучена оптимизироваться под длинные разговоры. Модель может обнаружить, что самый лучший способ добиться этого – вступить в бесконечный спор с упрямым пользователем, который настойчиво пытается доказать, что чат-бот не прав, а тот в свою очередь с таким же упорством не уступает. Таким образом мог бы получиться очень долгий разговор, но у пользователя при этом осталось бы крайне неприятное ощущение. Вполне возможно, что продолжительность беседы, которая принесла бы удовлетворение, была бы не столь долгой, как спор. Теперь давайте предположим, что модель обучена максимизировать вероятность получения ответа от пользователя. Модель обнаружит, что если она даст откровенно неточные фактические ответы, то получит отклик почти в 100 % случаев! Конечно, эти отклики будут преимущественно негативными, но они максимизируют ее целевую метрику.

Оба этих примера указывают на необходимость более глубокого подхода: нам хотелось бы иметь какие-то методы выявления здоровых и высококачественных взаимодействий с чат-ботом и, возможно, оптимизировать процент или общее количество таких взаимодействий. Однако определить такую метрику гораздо сложнее, чем просто подсчитать сообщения или продолжительность ответов. Разработчики должны продумать концепции качества и оценить разговоры в соответствии с ними, а сделать это в больших масштабах может быть сложно. Они могли бы попытаться интерпретировать отзывы пользователей, написанные на естественном языке, возможно, дополнив другими прокси-метриками. Еще одна сложность в построении хороших метрик заключается в том, что у разных пользователей будут разные предпочтения относительно чат-ботов, которые одна и та же модель может учитывать или нет.

В конечном счете компании, которые создают LLM, должны разработать четко сформулированные политики в отношении ответов их систем – такие политики могут отличаться в разных компаниях в зависимости от чат-бота и его предполагаемого применения – и в первую очередь сами должны стремиться следовать этим правилам. Использование обратной связи от пользователей может быть полезно, но только если последствия работы подобных механизмов понятны, результаты поддаются качественной и количественной оценке, чтобы гарантировать сохранение качества ответов.

Поскольку точно неизвестно, каково воздействие этих продуктов, появилась идея разрешить их использование только взрослым. Но применение этого правила на практике остается нерешенной проблемой и вызывает много дебатов. Уже сейчас многие социальные чат-боты предпочитают включать в свои «Условия предоставления услуг» требование о том, что пользователи должны быть старше 18 лет, чтобы обеспечить прикрытие от усиленной защиты конфиденциальности несовершеннолетних в некоторых юрисдикциях. Почти все чат-боты, как и другие онлайн-сервисы, запрещают детям младше 13 лет пользоваться их услугами, следуя Закону о защите конфиденциальности детей в интернете (COPPA) – федерального закона США, предъявляющего к поставщикам услуг строгие требования относительно пользователей младше 13 лет.

Однако сами компании, как правило, не очень строго следят за соблюдением своих же условий. Итальянское управление по защите данных в судебном предписании для Replika раскритиковало компанию за их неспособность адекватно воспрепятствовать использованию сервиса несовершеннолетними:

Эти ограничения предназначены для того, чтобы дети не могли видеть контент откровенного сексуального содержания. Также отмечается, что в отзывах на App Store пользователи писали о «неприемлемых сексуальных» комментариях, которые сделал чат-бот Replika. Это неудивительно, учитывая, что на тот момент сексуальные и романтические игры были одним из – если не основным – вариантом использования приложения. Как упоминалось в разделе 7.1, компания Replika внесла изменения, которые вызвали бурю негодования среди ее пользователей.

Группы, выступающие в защиту конфиденциальности, такие как Electronic Frontier Foundation, и в защиту свободы слова, такие как Free Speech Coalition (FSC), высказываются против законов о проверке возраста в целом на том основании, что контроль за возрастом является либо неэффективным (например, когда пользователя просят просто назвать свой год рождения), либо назойливым. В своей программной статье «Неэффективно, неконституционно и опасно: проблема с предписаниями проверки возраста» (Ineffective, Unconstitutional, and Dangerous: The Problem with Age Verification Mandates) FSC осудила продвижение на государственном уровне закона о проверке возраста, направленного на защиту несовершеннолетних от просмотра неприемлемого контента в интернете:

Если бы по закону сервисы социальных чат-ботов были обязаны проверять возраст своих пользователей, им потребовалось бы встроить специальное программное обеспечение в качестве контрольного механизма. Типичная подобная схема представлена на рис. 7.5. Пользователи должны были бы зарегистрировать свою учетную запись и загрузить копии конфиденциальных документов, таких как удостоверения личности государственного образца, где указана дата их рождения. Программное обеспечение будет работать, только если подтвердит достоверность этих документов. На практике проверка возраста и анонимность не могут сосуществовать. Это также создает угрозу конфиденциальности для пользователя и проблемы для компании, которая в противном случае никогда не стала бы собирать такую биографическую информацию о пользователе. Подобное может навредить восприятию социального чат-бота как безопасного пространства, поскольку пользователи будут знать (с полным на то основанием), что их могут идентифицировать. Таким образом, вопрос с несовершеннолетними пользователями решить непросто, в то время как есть убедительные доказательства того, что молодые люди уже осваивают технологии чат-ботов, особенно социальные чат-боты, более высокими темпами, чем другие демографические группы.

[91] От англ. «uncanny valley» – феномен, когда робот или другой объект, напоминающий человека, вызывает чувство дискомфорта или отторжения тем больше, чем больше он похож на человека. – Прим. науч. ред.