Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу: читать книгу онлайн полностью и бесплатно

5.6. Итоги

Злоумышленники могут использовать генеративные модели для проведения кибератак и использования социальной инженерии.

Промпт-джейлбрейк манипулирует поведением чат-бота через промпт, заставляя его действовать в обход правил и ограничений.

Инъекционная атака через промпт – атака, когда вредоносные инструкции маскируются под полезные данные или образцы для ответов, вводимые напрямую пользователем в чат-бот через промпт; непрямая инъекционная атака через промпт предполагает, что вредоносные инструкции внедряются в сторонние ресурсы, которые будут просмотрены и учтены ботом при генерации ответа.

Обучение навыкам безопасности должно перейти от изучения правил и политик к усвоению того, как применять знания в разных ситуациях и выявлять новые разнообразные угрозы от генеративных моделей.

Информационная война и кампании по манипуляции мнениями – это скрытые и вводящие в заблуждение попытки повлиять на мнение целевой аудитории.

LLM с большой вероятностью поменяют облик манипуляционных кампаний в будущем, поскольку дают новые возможности автоматического создания убедительного вредоносного контента в более широком масштабе при одновременном снижении затрат на его производство.

Обвинения в политической предвзятости преследуют чат-боты ведущих технологических компаний, из-за чего независимые разработчики создают политических чат-ботов и призывают к нейтралитету.

Галлюцинации появляются, когда модель создает предположения о знании, в котором она не уверена из-за ограниченной или противоречивой информации.

Существует целый ряд различных стратегий, используемых для борьбы с галлюцинациями, включая предоставление информации о степени уверенности модели в ответе, а также поиск информации из внешних источников.

Из-за галлюцинаций и других ограничений LLM не готовы заменить профессионалов во многих областях, а неосторожное их использование может привести к серьезным последствиям, особенно в финансовом, медицинском и юридическом секторах.

Ответственное внедрение LLM включает в себя мониторинг на предмет неправильного использования и информирование конечных пользователей об ограничениях моделей.

6

Повышаем производительность: ИИ как помощник

Каждый человек хоть однажды переживал так называемое в позитивной психологии состояние потока, когда вы глубоко погружены в работу и даже теряете счет времени из-за сильной концентрации. Скорее всего, вы также переживали моменты нарушения этого потока, когда вас что-то отвлекало, например необходимость что-то найти или заняться посторонними вещами. Подобная фрустрация была главным мотиватором для генерального директора GitHub Нэта Фридмана, когда он объявил о выпуске помощника по программированию Copilot. Фридман написал: «Он поможет вам быстро находить альтернативные способы решения проблемы, писать тесты, изучать новые API без утомительного поиска ответа в интернете»¹. Важнейшим преимуществом была интеграция с редактором кода VSCode от Microsoft: Copilot мог напрямую подключаться к текущим рабочим процессам программиста.

В программировании и других областях люди используют большие языковые модели и другие разновидности генеративного искусственного интеллекта как средство для ускорения работы, которую они уже выполняют, например для разработки учебного расписания или плана работ. В этой главе мы изучим, как LLM сейчас используются в личных, профессиональных и образовательных целях. Мы также рассмотрим возможные изменения, которые эта технология вызовет в образовании и экономике в целом.

6.1. Как используют LLM люди разных профессий

В предыдущей главе мы обсудили примеры ненадлежащего использования чат-бота в таких строго регулируемых областях, как медицина, финансы и юриспруденция. В этом разделе мы сосредоточимся на полезном использовании чат-ботов как в упомянутых, так и других профессиональных сферах. Общее мнение таково, что большие языковые модели внесут революционные изменения, но каковы будут последствия этого, пока не ясно. Уже сейчас использование LLM в этих профессиональных областях вызывает экзистенциальные вопросы. Что значит быть врачом? Что значит быть юристом? Принято считать, что работа наполняет нас ощущением цели в жизни, поэтому чат-боты могут вызвать кризис профессиональной идентичности, взяв на себя часть наших задач. С другой стороны, хотя услуги в таких отраслях, как медицина, юриспруденция и финансы, чрезвычайно важны в современном обществе, эти услуги не всегда доступны людям, которые в них нуждаются. Хотя LLM не заменят опытных специалистов, работающих в этих областях, они могут помочь справиться с нагрузкой.

6.1.1. LLM помогают врачам разобраться с бумажной волокитой

Сегодня поставщики первичных медицинских услуг часто тратят больше времени на выполнение задач, не связанных с непосредственным общением с пациентами. Доктор Джеймс Барнетт, клинический адъюнкт-профессор медицинского колледжа Университета Иллинойса в Пеории, писал об «изнурительном бремени административной работы», возложенном на практикующих врачей, и привел слова своего коллеги-врача:

В такую административную нагрузку входят ответы на электронные письма и звонки, ведение историй и графиков болезней, а также взаимодействие со страховыми компаниями по заявлениям или обращениям. В одном исследовании было показано, что работа, не связанная с приемом пациентов, занимает около 60 % времени поставщиков первичных медицинских услуг; в другом исследовании был сделан вывод, что на самом деле эта работа занимает не менее двух третей времени². С учетом такого положения дел в Соединенных Штатах и многих других странах не удивительно, что первые пользователи стали рассматривать LLM как возможное решение этой проблемы.

Ревматолог из Далласа доктор Ричард Стерн попросил GPT‐4 написать письмо с обращением к страховщику, который отказал в покрытии расходов на применение препарата анакинра по показаниям, для которых тот не был официально одобрен, для пациента с трудноизлечимым хроническим воспалительным заболеванием. Стерн отправил письмо, созданное LLM, страховщику, который позже удовлетворил запрос, сократив расходы пациента на 1500 долларов в месяц. Стерн рассказал New York Times, что GPT‐4 значительно повысил продуктивность его работы с пациентами и теперь он использует эту модель в своей работе для составления электронных писем с ответами на общие вопросы пациентов, а также для заполнения документов. Врачи начали использовать большие языковые модели не только для выполнения административной работы. Доктор Майкл Пигоне, заведующий терапевтическим отделением медицинской школы Делла при Техасском университете в Остине, попросил свою команду разработать сценарий, который врачи могут использовать для бесед со страдающими от расстройств, связанных с употреблением алкоголя[76], пациентами, которые «не реагировали на поведенческую психотерапию» и продолжали слишком много пить. «Неделю спустя никто ничего не сделал», – сказал Пигоне. Однако, когда он обратился к ChatGPT, тот сразу же подготовил полезный сценарий, который затронул все основные темы обсуждения. Когда бота попросили переписать сценарий для пациентов со скудными медицинскими знаниями, он подготовил более доступную версию, которая начиналась словами:

Когда LLM используются для написания текстов, в которых информация для пациента излагается в более сочувственной манере, это вызывает больше вопросов, чем, например, обобщение истории болезни пациента, поскольку здесь затрагивается межличностное взаимодействие. В этой же статье New York Times несколько медицинских работников выражают недовольство идеей того, что работающие врачи делегируют эмпатию большим языковым моделям, а другие беспокоятся, что можно перепутать кажущуюся заботу ChatGPT о пациенте с хорошими медицинскими советами. Особенно поразительный случай произошел с доктором, который попросил ChatGPT написать, как ему лучше утешить не пациента, а друга с запущенной формой рака на последней стадии. Доктор Грегори Мур, в прошлом практикующий врач в области диагностической радиологии и неврологии, а затем руководитель отдела здравоохранения и биотехнологий в Microsoft, сообщил, что был поражен качеством ответов ChatGPT, которые выражали сочувствие и ободрение без ложной надежды. Мур сказал: «Жаль, что я не мог пользоваться этим инструментом во время своего обучения. Я никогда не встречал такого наставника, как он»3. Большая языковая модель Claude от Anthropic AI по запросу написать сценарий беседы с пациентом о том, как бросить курить[77], сгенерировала текст, показанный на рис. 6.1.

Рис. 6.1. Начало ответа Claude на запрос о написании сценария для беседы о прекращении курения

6.1.2. LLM применяют для правовых исследований, досудебного обмена информацией и подготовки документации

Перегруженность административной работой встречается не только в медицинской области. Согласно исследованию 2017 года, проведенному среди 2915 работников судебной системы в Соединенных Штатах, адвокаты тратят более половины своего времени на административные задачи⁴. Большинство частных адвокатов и фирм используют систему оплачиваемых часов, при которой сотрудники отслеживают время, потраченное на работу над конкретным делом, часто с шестиминутным интервалом. Но административные задачи, напрямую не связанные с судебными делами, не оплачиваются клиентами, и поэтому юридические фирмы могут быть особенно заинтересованы в автоматизации таких задач. Например, LLM можно использовать для составления ответов на сообщения существующих или потенциальных клиентов. Но реальная ценность LLM в том, что они могут решать самые насущные задачи в адвокатской практике: досудебное раскрытие информации, юридические расследованиях и составление документов.

Досудебное раскрытие информации – «формальный процесс обмена между сторонами информацией о свидетелях и доказательствах, которые они будут представлять в суде»5. В зависимости от судебного процесса это может происходить в течение нескольких месяцев или лет и включать в себя обмен тысячами документов. Программное обеспечение E-discovery – приложение, предназначенное для индексации документов, чтобы найти важную информацию, – уже более десяти лет является стандартным инструментом в юридической практике. Однако обычно пользователь должен сам осуществлять поиск по определенному термину, почти как в поисковой системе. Если для LLM провести тонкую настройку или даже сформулировать задачу с помощью промпта, то она сможет предоставить краткое содержание документов и даже указать, какие материалы подтверждают то или иное заявление в деле.

Еще одним ключевым компонентом юридической практики является ознакомление с прецедентами и предыдущими решениями по подобным делам для проведения сравнения и сопоставления. Существующие технологии на основе ИИ уже идеально подходят для поиска похожих дел и прецедентов с помощью таких методов, как векторное представление документов и вычисление их сходства (см. обсуждение векторного представления слова в главе 1). Большие языковые модели благодаря своим богатым внутренним представлениям могли бы лучше выполнять работу по поиску соответствующих случаев, а также объяснять их сходства и различия, что значительно превосходит возможности более примитивных методов.

Составление документов – более сложная задача, и применение генеративного ИИ для ее решения может иметь огромный потенциал. Эндрю Перлман, декан и профессор юридической школы Саффолкского университета, является автором статьи под названием «Последствия применения ChatGPT для юридических служб и общества», которая была опубликована в журнале The Practice, издаваемом Центром юридических профессий Юридической школы Гарварда, но на самом деле у статьи есть соавтор: как открыто заявляет Перлман, большую ее часть написал ChatGPT6. В статье Перлман приводит в качестве примера написанные с помощью ChatGPT юридическую жалобу, завещание и договор по продаже недвижимости и автомобиля. Каждый документ был создан с помощью отдельного промпта. Например, промпт для договора по автомобилю звучит так:

Оценивая ответы чат-бота, Перлман назвал эти юридические документы неполными, но на удивление продуманными. Хотя ChatGPT в ближайшее время не заменит ведущих юристов, Перлман сказал, что Bing Chat «уже работает на уровне студента-юриста, учащегося на четверки (B/B+), и со временем станет только лучше». Как и врачи, опробовавшие ChatGPT, он считает ИИ инструментом, который будет играть важную роль в юридической профессии:

[76] Чрезмерное употребление алкоголя вредит Вашему здоровью.

[77] Минздрав России предупреждает: курение вредит вашему здоровью.