Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу: читать книгу онлайн полностью и бесплатно

Рис. 7.5. Программное обеспечение для проверки возраста обычно имеет доступ к базам государственных удостоверений личности и может также использовать функцию распознавания лица

Главная статья «Клуб одиноких сердец Character.AI» июльского номера 2023 года онлайн-издания The Information была посвящена приложению Character.AI. На момент ее написания компания Character сообщала, что ее активные пользователи проводили около двух часов в день на платформе, где есть различные чат-боты, которые могут представлять реальных людей (президент Бразилии Лула, поп-певица Ариана Гранде), вымышленных персонажей (Гомер Симпсон) или даже неодушевленные предметы (кусок швейцарского сыра). Генеральный директор компании Ноам Шазир описал эти творения как «новую и улучшенную версию парасоциальных развлечений». Парасоциальный [92] – это очень меткое слово: Рэймонд Мар, психолог из Йоркского университета, отметил, что с такими чат-ботами могут формировать близкие отношения люди, которые хотят, чтобы их понимали и принимали. Он сказал: «Несложно догадаться, что дети уязвимы во всех отношениях, поскольку им трудно отделить реальность от вымысла». Приложение Character доступно для пользователей старше 13 лет44. Шазир и Даниэль Де Фрейтас, основатели Character.AI, изначально задумывали бота для других целей:

Вполне вероятно, что так оно и есть, но в мире стартапов с венчурным финансированием они попадают под огромное давление, поскольку вынуждены привлекать пользователей как можно быстрее.

Опрос о Character.AI на форуме Reddit показал, что большая часть респондентов (около 1000 из 2500) в основном использовала сайт для романтических ролевых игр. Пользователи Character протестовали против ограничения сексуального контента, а онлайн-петиция, в которой они попросили компанию удалить антипорнографический фильтр, собрала почти 100 000 подписей – и все равно Шазир заявил, что компания никогда не будет поддерживать использование порнографического контента⁴⁴. Это может быть связано с ужесточением законодательного регулирования порнографических материалов или с тем, что они считают подобный контент недружественным по отношению к бренду, но путь, пройденный Character, отражает лишь малую степень того, что должны учитывать разработчики LLM, которые работают над социальными ботами. Каждое решение по продукту, будь то разрешение пользователям создавать своих собственных ботов или ограничение контента в ответах, может принести как огромную пользу, так и огромные риски. Компаниям следует тщательно продумывать, какие из этих рисков они готовы взять на себя, а какие для них слишком велики.

Разработчики чат-ботов несут моральную ответственность перед своими пользователями: недостаточно просто сказать, что чат-бот не создавался для использования в качестве терапевта, если они знают, что пользователи используют ботов для сессий виртуальной терапии. Поэтому компаниям следует тщательно отслеживать использование ботов, при этом не нарушая конфиденциальность пользователей (например, путем анонимизации и агрегирования разговоров). При этом компании не должны слепо следовать желаниям пользователей, но если они намерены поддержать какой-либо вариант использования, например терапию, то могут проконсультироваться с экспертами по психологическому здоровью и лицензированными психологами, чтобы быть уверенными – поведение чат-ботов не способствует развитию нездоровых зависимостей и соответствует современным рекомендациям.

Компании также могут принять решение не поддерживать некоторые отношения, которые пользователи отчаянно хотели бы развивать со своими чат-ботами, будь то терапевтические, сексуальные или другие. В главе 3 мы обсудили различные стратегии управления ответами модели, включая чат-бота или другого диалогового агента. Учитывая, что люди продолжат извлекать контент сексуального содержания или общаться на деликатные темы, которые могут быть поддержаны чат-ботом или нет, политика компании в отношении контента должна соблюдаться с помощью технических средств. Кроме отслеживания, как люди используют чат-бот в целом, компании могут проводить выборку анонимных разговоров, чтобы выявить зависимость или формирование нездоровых отношений.

Возможно, в будущем мы придем к тому, что будем рассматривать все виды отношений между человеком и чат-ботом как нормальные, включая романтические. Но поскольку наука еще не определилась с последствиями использования таких продуктов, разработчикам следует проявлять осторожность и воздерживаться от максимизации вовлечения любыми средствами. Напротив, следует отслеживать фактическое использование продукта и думать о том, как оно может повлиять на психическое или социальное здоровье пользователей, а также советоваться с опытными специалистами по психическому здоровью, чтобы найти ответы на эти вопросы.

Не только людям, создающим социальных чат-ботов, но и нам всем как обществу придется считаться с тем значением, которое приобретет использование социальных чат-ботов для общения и эмоциональной поддержки. Возможно, эти инструменты станут ценным стандартным компонентом терапии для людей, которые чувствуют себя изолированными или отторгнутыми обществом. Если нет, то они хотя бы могут принести радость и развлечение миллионам людей. В любом случае нам действительно нужно определить место социальных чат-ботов в нашей жизни, совмещая пользу от них с другими видами активности и отношениями, требующими нашего внимания.

7.5. Итоги

Люди уже давно ищут дружеского общения с виртуальными помощниками и социальным чат-ботами, такими как Siri от Apple и Replika.

Формирование привязанности можно объяснить в контексте эволюции – объект, к которому формируется привязанность, обеспечивает безопасность и защиту.

Соединенные Штаты, как и другие страны, находятся в центре «эпидемии одиночества»: все больше американцев сообщают о том, что они чувствуют себя социально изолированными.

Люди обращаются к социальным чат-ботам за близостью и поддержкой, и, хотя их отношения могут быть полезны человеку, существуют определенные риски, что у активных пользователей такое общение вытеснит реальные отношения из жизни.

Компаниям-разработчикам социальных чат-ботов стоит учитывать существующие принципы ответственного проектирования и практики по охране психического здоровья при определении того, когда и как бот должен вступать в деликатные разговоры с пользователем.

8

Что ждет ИИ и LLM в будущем?

В печально известной статье 1995 года в Newsweek астроном Клиффорд Столл написал:

К лучшему это или к худшему, но интернет сделал гораздо больше, чем ожидал Столл. Цифровые сети сделали правительство более демократичным в каких-то смыслах, но при этом сконцентрировали власть в руках других авторитетов, объединили людей по всему миру, но при этом привели к усилению социальной изоляции, а также изменили глобальную экономику.

Когда Билл Гейтс назвал искусственный интеллект «столь же важным», как персональные компьютеры и интернет, это прозвучало как публичное признание технологии. Однако влияние искусственного интеллекта, как и в случае с его революционными предшественниками, пока невозможно оценить. У нас нет полной уверенности относительно того, как мы будем использовать генеративный ИИ и как эта технология изменит нас. В то же время у нас есть достаточно опыта, чтобы предвидеть значительные перспективы этой технологии и серьезные риски, которые она в себе несет. В этой главе мы поразмышляем над направлениями развития больших языковых моделей и предложим пути, которые могли бы привести к лучшему и более справедливому будущему.

8.1. В каком направлении развиваются LLM?

Одной из самых больших сложностей в написании этой книги было появление чуть ли не каждый день новостей о новом использовании LLM или о прорыве в их исследовании. Как любил говорить нобелевский лауреат Нильс Бор (первоисточник этого высказывания неизвестен): «Очень трудно сделать точный прогноз, особенно о будущем»². Тем не менее в нашей книге мы смогли обрисовать несколько общих направлений в современных исследованиях, а в этом разделе перечислим три категории работ, которые, как мы ожидаем, окажут существенное влияние на генеративный ИИ в ближайшие месяцы и годы.

8.1.1. Язык – универсальный интерфейс

В главе 6 мы обсуждали растущую популярность чат-ботов и других больших языковых моделей для использования в личных целях. Уже сейчас LLM встраиваются в существующие приложения с головокружительной скоростью. Помощник в программировании Copilot, о котором мы подробно говорили в главе 6, работает в интегрированной среде разработки Visual Studio от Microsoft. Google тестирует помощника по написанию текстов в Docs, Gmail, Maps и Sheets [93]^{, 3}. В 2023 году компания Expedia начала предлагать чат-бота, работающего на базе GPT‐4, для планирования путешествий, а другие компании используют чат-боты на базе LLM для обслуживания потенциальных и существующих клиентов и прочих операций. Возможно, некоторые из этих применений не принесут ожидаемых результатов либо по причине того, что модели недостаточно надежны, а их интерфейс неудобен, либо из-за того, что люди просто предпочитают выполнять некоторые задачи самостоятельно. Однако большинство таких применений LLM вскоре станут стандартной практикой.

Наиболее заметную интеграцию LLM мы можем наблюдать в поисковых системах. Microsoft Bing и Google Bard были пионерами в области поиска, усиленного возможностями LLM, и помогли нам знакомиться с его преимуществами. Когда был анонсирован Bard, генеральный директор Alphabet Сундар Пичаи написал в своем блоге:

Другими словами, если обычно люди обращаются к Google или другой поисковой системе за рекомендацией или информацией, то сейчас или в будущем смогут использовать ИИ, чтобы получить более краткий и быстрый ответ, а не просматривать все результаты поиска. Хотя поиск может показаться просто еще одним применением LLM, он способен привести к огромным изменениям, поскольку является отправной точкой для многих ситуаций использования сети. Если LLM смогут успешно заменить даже часть поискового трафика, это вызовет значительный скачок в осведомленности и использовании генеративного ИИ среди широкой публики. Но тогда возникнут вопросы по бизнес-модели этих LLM, поскольку большинство современных поисковых систем зарабатывают деньги, предлагая платное размещение в результатах поиска. LLM еще не нашли широкого рынка для монетизации (в настоящий момент монетизация ограничивается платными подписками на расширенные услуги), поэтому в ближайшее время, несомненно, этот вопрос будет в центре внимания их владельцев.

Все вышеупомянутые интеграции являются примерами того, как меняется интерфейс: от запросов или кнопок к естественному языку. В самом амбициозном случае предполагается, что LLM станет основным интерфейсом для взаимодействия человека и компьютера по умолчанию. Люди уже знают и используют язык, а если компьютеры начнут понимать тот же самый язык, то нам не понадобится так много меню и элементов управления – язык станет интерфейсом, и тогда люди смогут задавать вопросы и давать обратную связь модели подобно тому, как это происходит в общении с другим человеком. Следующее поколение моделей (начиная с GPT‐4) также будет все более мультимодальным [94] и сможет обрабатывать изображения, а вскоре и другие виды медиа [95].

8.1.2. LLM-агенты открывают новые возможности

Как упоминалось в главе 6, мы думаем, что LLM будут все больше наделяться качествами агентов и они смогут взаимодействовать со средой для совершения покупок и других действий на основании разговора с пользователями. На рис. 8.1 показаны основные функциональные возможности LLM-агента, который пытается выполнить задачу с помощью внешнего инструмента или набора инструментов. В этом примере пользователь вводит промпт «Найди мне рубашку стоимостью менее 15 долларов», который модель преобразует в поисковый запрос для торгового API. API выполняет запрос, и среда – в данном случае интернет-магазин или торговая площадка – выдает результаты, которые LLM показывает пользователю. В других версиях LLM может по-настоящему совершать покупку от имени пользователя.

Рис. 8.1. Общая схема работы LLM-агента

[92] Односторонние отношения с медийной личностью или вымышленным персонажем. – Прим. науч. ред.

[93] Уже запущен, но не работает в России. – Прим. науч. ред.

[94] Мультимодальная модель – это модель, которая может обрабатывать разные медиа: текст, изображения, видео и аудио. – Прим. авт.

[95] Первые версии ChatGPT‐4 не были мультимодальными. Но по состоянию на конец 2024 года мультимодальные функции стали доступными для всех пользователей. – Прим. науч. ред.