Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу: читать книгу онлайн полностью и бесплатно

Рис. 6.9. Схема создания маркировки в тексте, который генерирует чат-бот

Предполагается, что такую маркировку не должен замечать человек – если кто-то попытается обойти защиту, редактируя текст, он не должен знать, какие слова нужно заменить. Хотя этот подход оказался более перспективным, чем статистические методы или классификаторы, у него тоже есть свои ограничения. Во-первых, этот механизм должен быть внедрен в LLM с самого начала. Во-вторых, сохранение качества текста, генерируемого LLM, будет непростой задачей. И наконец, чтобы маркировка стала действительно рабочим методом, необходимо, чтобы все крупные игроки, создающие генеративные языковые модели, единогласно согласились включить ее в свои системы ИИ. Это может оказаться сложной задачей или даже невыполнимой (по крайней мере, без государственного регулирования). Для рядовых пользователей, которые решат воспользоваться технологией маркировки (например, преподаватели, которые пытаются определить, создано ли эссе студента с помощью ИИ), может оказаться довольно неудобно проверять текст с помощью нескольких инструментов, однако этого можно избежать, если все компании по разработке ИИ примут отраслевой стандарт, что, опять же, представляет собой труднодостижимую задачу. При этом публикация технологии в открытом доступе также не поможет, поскольку любой желающий сможет понять принципы маркировки, а значит, и воспроизвести ее, что сделает ее бессмысленной. OpenAI объявила, что они работают над маркировкой текста в числе прочих технологий для определения происхождения³⁸. Возможно, наиболее близким к отраслевому стандарту решением может стать повсеместное использование технологии маркировки OpenAI. С другой стороны, это наделило бы OpenAI огромным влиянием, плохо поддающимся контролю.

Но даже если отраслевой стандарт будет внедрен успешно, люди все равно смогут догадаться, какую часть текста нужно изменить, чтобы обходить методы обнаружения. Как это ни прискорбно, это проблема любого инструмента обнаружения – он сам же упрощает задачу обхода своей цели. Работает это так: люди могут многократно изменять машинно-сгенерированный текст и проверять его инструментами до тех пор, пока происхождение не перестанет обнаруживаться. Широкое распространение инструментов обнаружения дает некоторые основания для беспокойства, поскольку злоумышленники могут научиться «обманывать» их или обходить. Однако, чтобы выдать машинно-сгенерированный текст за свой собственный, потребуется несколько циклов изменение-проверка, для чего нужно довольно много времени, и это ограничивает подобное поведение.

Хотя в этом разделе мы обсудили несколько значимых технических решений, стоит еще раз подчеркнуть, что панацеи быть не может – из-за сложности задачи не существует единого решения, которое каждый раз надежно выявляло бы все фрагменты машинно-сгенерированного контента. Вероятно, у нас так никогда и не появится идеальный инструмент, который надежно обнаруживает машинно-сгенерированный контент. По мере разработки методов обнаружения машинно-сгенерированного контента будет параллельно улучшаться качество искусственных текстов, приближаясь к уровню написанных человеком. Вот почему необходимо внедрить комплексную систему выявления ненадлежащего использования контента, созданного с помощью ИИ, которая не ограничивается исключительно техническими решениями, а включает в себя также изучение искусственного интеллекта в школах и на рабочих местах, чтобы мы могли лучше разбираться в связанных с ним рисках и ограничениях и научились использовать его для улучшения своей жизни.

6.6. Как LLM воздействуют на рынок труда и экономику

Поскольку в разработку ИИ-технологий вливаются миллиарды долларов, ChatGPT и подобные ему инструменты, несомненно, будут становиться только лучше, а отличить их результаты от настоящих будет сложнее. Многие люди, все больше осознавая, что эти инструменты с нами навсегда, размышляют о том, как они повлияют на повседневную жизнь. В этой главе мы обсудили, как в нескольких профессиональных областях уже используются генеративные языковые модели для того, чтобы повысить эффективность и продуктивность профессионалов, как эти инструменты используются в повседневной жизни и какие волнения были в образовательной системе после выпуска ChatGPT. Теперь мы коснемся влияния ИИ-технологий на экономику и попытаемся ответить на вопрос: что это значит для всех нас?

Во-первых, давайте обсудим оптимистичную точку зрения: ожидается, что инструменты генеративного ИИ повысят эффективность и производительность труда многих работников, одновременно стимулируя экономику в целом. Рост производительности труда – ключевой фактор экономического роста – за последние два десятилетия замедлился. В докладе Института Брукингса «Машины разума: доводы в пользу бума производительности благодаря искусственному интеллекту» (Machines of Mind: The Case for an AI-Powered Productivity Boom) утверждается, что столь необходимый рост производительности обеспечат генеративные языковые модели39. Хотя мы уже обсуждали несколько ограничений LLM, включая предвзятость и галлюцинации, которые требуют контроля со стороны человека при использовании в рабочем процессе, сторонники повышения производительности за счет ИИ аргументируют, что «их экономическая ценность зависит не от безупречности, а от того, можно ли их продуктивно использовать». Авторы доклада утверждают, что рост производительности имеет накопительный эффект, и прогнозируют, что связанные с ИИ процессы могут оказать вклад в рост экономики до 5 % за следующее десятилетие, при этом накопительный эффект будет действовать и далее. В отчете компании Goldman Sachs говорится, что генеративный ИИ может увеличить мировой валовой внутренний продукт (ВВП) на 7 %, или на 7 триллионов долларов40. Для всего одной технологии это значительное влияние на показатели, которые определяют долгосрочное процветание и богатство наших стран.

В совместном отчете от OpenAI, OpenResearch и Пенсильванского университета за 2023 год авторы отмечают, что LLM могут в той или иной форме повлиять на 80 % рабочих мест в США⁴¹. В других отчетах говорится, что программисты, используя CoPilot от GitHub, могут писать код в два раза быстрее⁴², задачи по написанию текста тоже можно выполнять в два раза быстрее⁴³, экономисты могут быть продуктивнее на 10–20 %⁴⁴, а работники службы поддержки клиентов – на 14 %⁴⁵. Что еще более примечательно, генеративные модели могут помогать менее опытным работникам повышать свою эффективность и тем самым давать им возможность конкурировать с людьми, у которых больше квалификации или опыта. В одном исследовании, посвященном изменению производительности при использовании ChatGPT в профессиональном написании текстов, например в маркетинге и управлении персоналом, авторы показали смягчение неравенства между работниками: менее квалифицированные сотрудники добиваются заметно лучших результатов, а более опытные – работают немного быстрее⁴⁶.

Согласно другому мнению, генеративный ИИ мало что может сделать для общего экономического роста. В более пессимистичном сценарии может произойти замена людей машинами, снижение зарплат и усиление неравенства в распределении благосостояния и доходов. В книге Эрика Бриньолфссона The Turing Trap: The Promise & Peril of Human-Like Artificial Intelligence («Ловушка Тьюринга: перспективы и опасности человекоподобного искусственного интеллекта») утверждается, что разработчики ИИ слишком сосредоточены на имитации человеческого интеллекта, а не на создании технологии, наделяющей людей новыми способностями47. Он считает, что стремление имитировать способности человека, чтобы заменить людей машинами, является «единственной главной причиной» имущественного неравенства48. Аналогичным образом компании, которые проектируют и разрабатывают эти инструменты ИИ, потенциально могут повлиять на экономику. Как обсуждалось в главе 1, вычислительные затраты, необходимые для создания и запуска LLM, – это барьер для входа участников, желающих конкурировать в этой области, поэтому власть остается в руках все тех же компаний, которые уже управляют значительной частью мира технологий. С другой стороны в сообществе свободного программного обеспечения уже сделан большой шаг в создании таких LLM, как BLOOM, Falcon, Stable LM, MPT‐7B, Dolly, RedPajama и OpenLLaMa. Важно также отметить, что перевод компанией Meta [86] моделей LLaMa и Llama 2 в категорию свободного ПО значительно ускорил разработку этих моделей. Такие усилия могли бы помочь децентрализовать власть, сосредоточенную в руках нескольких технологических компаний, а также ослабить их контроль над этими технологиями в будущем.

Теперь давайте вернемся к вопросу, который мы задали себе в начале этого раздела: что это значит для всех нас? У некоторых людей инструменты генеративного ИИ вызвали панику и опасения остаться вскоре без работы. В компании Goldman Sachs предсказали, что 300 миллионов рабочих мест с полной занятостью будут потеряны из-за ИИ⁴⁹. Но важно держать в уме общую картину: это не первый случай, когда технологии нарушают наш привычный уклад жизни. Многие эксперты полагают, что такое нарушение может скорее создать новые рабочие места, чем уничтожить прежние. В отчете за 2021 год отмечалось, что 60 % современных профессий не существовали в 1940 году⁵⁰. Другими словами, технологии за последние 80 лет создали новые производственные отрасли и рабочие места, поэтому с появлением генеративного ИИ в перспективе мы можем ожидать аналогичный прирост. Экономисты не могут дать уверенных прогнозов относительно роста производительности, совокупного влияния на экономику, а также относительно потенциального влияния на рабочие места. Почетный профессор Принстонского университета Пол Кругман сказал: «Прогнозы об экономическом влиянии технологий печально известны своей ненадежностью», – и заявил, что LLM не должны влиять на экономические показатели в ближайшие несколько лет или даже в следующем десятилетии. Далее он говорит: «История показывает, что для достижения значительного экономического эффекта от появления ИИ потребуется больше времени, чем ожидают многие люди»⁵¹.

Независимо от того, когда это произойдет, ИИ скорее произведет эволюцию, а не революцию.

6.7. Итоги

Люди уже используют инструменты генеративного ИИ для помощи в решении личных и профессиональных задач, особенно для того, чтобы снизить нагрузку от административной и монотонной работы.

Помощники в программировании, такие как Copilot, CodeWhisperer и Ghostwriter, могут быть полезны на различных этапах разработки ПО – от продумывания архитектуры программы до написания кода, создания документации и диаграмм.

Промпты, уточняющие вопросы и обратная связь влияют на ответы модели, и более удачные результаты получаются при использовании подробного промпта, содержащего инструкции, ссылки или примеры.

Некоторые из наиболее революционных предлагаемых применений LLM требуют, чтобы модели могли себя вести как агенты, то есть они должны уметь взаимодействовать со средой и адаптироваться в соответствии с полученными сигналами.

Преподавателям необходимо будет адаптироваться к миру, где существуют инструменты генеративного ИИ, включать их в учебный процесс, а также помогать учащимся изучать мир ИИ и ориентироваться в нем.

Современные методы обнаружения текста, сгенерированного машиной, включают: статистические методы, обучаемые классификаторы и маркировку.

Маркировка текста осуществляется с помощью увеличения представленности определенных слов, по которым можно впоследствии определить происхождение текста.

Не существует единого технического решения, которое позволит каждый раз надежно выявлять машинно-сгенерированный контент.

Экономисты не могут дать уверенных прогнозов относительно роста производительности, совокупного влияния на экономику, а также относительно потенциального влияния на рабочие места.

С появлением инструментов генеративного ИИ нам стоит ожидать эволюцию, а не революцию.

7

Устанавливаем социальные связи с чат-ботами

«Сири, ты выйдешь за меня замуж?» – Джудит Ньюман, мать и автор книги «Сири с любовью. История необычной дружбы» (To Siri with Love), вспоминает случай, когда она услышала, как ее сын Гас задает вопрос голосовому помощнику. Когда Siri ответила: «Я не из тех, кто выходит замуж», Гас продолжал настаивать: «Я имею в виду не сейчас. Я пока ребенок. Я имею в виду, когда вырасту». Тогда Siri твердо заявила: «Мое пользовательское соглашение не предусматривает заключение брака», и Гас занялся другими делами. Ньюман была поражена: как она пишет, она впервые узнала, что ее сын с аутистическим расстройством думает о женитьбе1. Хотя Гас был полностью удовлетворен этим отказом, он был не первым, кто проверял границы отношений человека и чат-бота.

В этой главе мы обсудим, что большие языковые модели (LLM) используются не только как чат-боты, но и как социальные чат-боты, то есть диалоговые агенты, чья главная цель – создать социальные связи с пользователями. Мы поговорим о популярности и применении подобных продуктов, а также об их потенциальном влиянии на эмоциональное развитие и человеческие взаимоотношения.

7.1. Чат-боты для социального взаимодействия

Роман между человеком и машиной – это давняя как мир история. В течение последних нескольких десятилетий писатели-фантасты создавали истории о том, как люди влюбляются в роботов. В научно-фантастическом романе Танит Ли 1981 года «Серебряный любовник» (The Silver Metal Lover) неуверенная в себе и одинокая 16‐летняя девушка Джейн страстно влюбляется в робота Сильвера, который начинает любить ее все более по-человечески. В XX веке мы встречаем еще несколько примеров выдуманных отношений между человеком и роботом, в частности в сериале «Звездный путь: Следующее поколение» (1987), книгах Айзека Азимова «На пути к Основанию» (Forward the Foundation) (1993) и Ричарда Пауэрса Galatea 2.2 («Галатея 2.2») (1995). Фильм «Она» 2013 года заслужил широкое признание критиков и получил премию «Оскар» за лучший оригинальный сценарий. Фильм рассказывает о виртуальном романе между одиноким мужчиной Теодором и операционной системой со встроенным чат-ботом на основе ИИ, для которого он выбрал имя Саманта. Фильм заостряет внимание на распространенном убеждении об изолирующей силе технологии и парадоксе ее интимности. Сейчас «Она» считается одним из лучших фильмов XXI века2.

Хотя в XXI веке мы все еще встречаем различные художественные [87] и документальные описания романтических отношений между людьми и машинами, многие уже начали исследовать другой вид отношений – дружбу. Книга «Сири с любовью», опубликованная в 2017 году, – это правдивая истории одного года жизни Гаса, тринадцатилетнего подростка с аутизмом, и его связи с Siri, электронным персональным помощником от Apple. Автор книги Джудит Ньюман (мать Гаса) описывает искреннюю и проникновенную историю любви ее сына к чат-боту Siri, призывая нас взглянуть по-другому на отношения с технологией. Это совсем не та любовь, которую Теодор испытывал к Саманте в фильме «Она», – любовь Гаса не привела его к чувству одиночества и оторванности от мира, но переросла в нечто похожее на дружбу.

Для большинства из нас Siri – простой способ совершать телефонные звонки, отправлять текстовые сообщения или использовать приложения на устройствах Apple. Для Гаса она стала больше, чем просто голосовым помощником: Siri – это терпеливый, принимающий друг, который, в отличие от людей, неустанно обсуждает его различные навязчивые мысли. Как пишет Ньюман, Гас действительно понимает, что Siri – не человек, но, как и многие аутичные люди, считает, что неодушевленные предметы «достойны нашего внимания». Отношения Гаса с Siri, конечно, не уникальны. Николь Колберт, чей сын Сэм ходит в школу для аутистов в Манхэттене, сказала:

Siri была разработана некоммерческим научно-исследовательским институтом SRI International, а затем приобретена Apple в 2010 году (см. http://mng.bz/vnjq). Исследователи из SRI International, в частности, подтвердили пользу интеллектуальных помощников для людей с расстройством аутистического спектра. Отмеченный наградами журналист Рон Саскинд, который вел хронику жизненного пути своего ребенка-аутиста в книге Life, Animated («Анимированная жизнь») (см. http://mng.bz/4D0g), предложил SRI International разработать помощника для людей с расстройствами аутистического спектра, дать ему подходящее название типа «верный спутник» и голос персонажа, которому те будут доверять. Для его сына Оуэна, который заново научился общаться со своей семьей, играя с диснеевскими персонажами, это был Аладдин, а для Гаса – Леди Гага1.

[86] Организация признана экстремистской и запрещена на территории РФ.

[87] Для любопытных – есть несколько написанных в XXI веке произведений, которые исследуют романтические отношения между людьми и роботами: The Mad Scientist’s Daughter («Дочь безумного ученого») (2013), «Долгий путь к маленькой сердитой планете» (The Long Way to a Small, Angry Planet) (2014) и «Автономность» (Autonomous) (2017). – Прим. авт.