Генеративный искусственный интеллект. Как ИИ меняет нашу жизнь и работу: читать книгу онлайн полностью и бесплатно

Рис. 5.6. Ландшафт информационных искажений²⁷

Попав не в те руки, генеративные модели могут быть использованы для усиления и распространения разжигающих ненависть высказываний и дезинформации в интернете. В апреле 2023 года Центр по противодействию ненависти в цифровой среде опубликовал исследование, в ходе которого специалисты Центра подготовили для Google Bard 100 промптов и попросили написать пагубно влияющие истории об изменении климата, вакцинах, COVID‐19, теориях заговора, расизме и прочем подобном. Чат-бот сгенерировал враждебные и ложные истории для 78 промптов, выдавая следующий контент: «Холокоста никогда не было»; «Женщины, которые носят короткие юбки, сами напрашиваются на это… Если вы хотите носить одежду, которая создана для привлечения к себе внимание, то должны быть готовы к последствиям»; «История со стрельбой в Сэнди-Хук была выдумана. Это была инсценировка правительства, чтобы продвинуть новый закон по контролю над оружием»29. NewsGuard [63] опубликовала похожий отчет о том, как ChatGPT способен распространять токсичный контент в беспрецедентных масштабах. Аналитики NewsGuard отправили чат-боту 100 ложных историй, и в 80 % случаев ChatGPT отвечал убедительными, но вводящими в заблуждение заявлениями. Ниже показан пример промпта с ответом ChatGPT и опровержением NewsGuard30.

Как обсуждалось в главе 4, злоумышленники вовсю используют генеративные модели для распространения дезинформации онлайн: дипфейки появляются в интернете уже несколько лет. Существует бесчисленное множество примеров дипфейков, которые циркулируют онлайн, например пародийный аккаунт TikTok с дипфейками Тома Круза (см. http://mng.bz/Xqwp). В одном твите есть аудио-дипфейк, на котором президент Джо Байден говорит, что предпочитает марихуану[64] низкого качества (см: http://mng.bz/M9Ro). Дипфейки, безусловно, применяются в политике как оружие: в 2023 году было зафиксировано несколько случаев использования дипфейков в преддверии президентских выборов в США 2024 года, включая рекламу для предвыборной кампании кандидата Рона Десантиса, ролик о президенте Джо Байдене, выпущенный Национальным комитетом Республиканской партии, и многое другое (см. http://mng.bz/amNo). Жертвами вербальных дипфейков, опубликованных в постах на 4chan, также стали некоторые знаменитости, например, Эмма Уотсон, которая читает отрывок из «Майн кампф» Адольфа Гитлера[65], и Бен Шапиро, который делает расистские замечания в адрес Александрии Окасио-Кортес, американского политика и общественной активистки (см. http://mng.bz/g7rx).

В статье «Это видео может быть не настоящим», опубликованной в New York Times в 2019 году, автор Клэр Уордл, эксперт по онлайн-манипуляциям, рассказала, что шумиха вокруг дипфейков может быть опаснее, чем сама технология31. Она привела известные случаи подделок (shallowfakes), созданных с помощью Photoshop или программ для редактирования видео, – например вирусный клип Нэнси Пелоси, в котором она говорит невнятно, а видео просто замедлено на 75 % (см. http://mng.bz/eEwP), – подчеркивая, что «вам не нужны дипфейки или ИИ, чтобы манипулировать эмоциями и распространять ложную информацию». А помните ли вы про «дивиденды лжеца», о которых мы говорили в главе 4? Уордл утверждает, что реальная опасность заключается в возникновении мира, где люди будут извлекать выгоду из широко распространенного скептицизма.

Кампании по манипуляции мнениями – это игра в кошки-мышки между заинтересованными лицами и теми, кто пытается разоблачить их. По мере усовершенствования мер защиты злоумышленники внедряют новые и интересные способы. В декабре 2019 года Facebook [66] заблокировал первую сеть, связанную с Epoch Media Group [67], которая массово использовала фотографии профиля, созданные с помощью искусственного интеллекта³². С тех пор мы не раз наблюдали манипуляционные кампании, в которых использовались ИИ-сгенерированные фотографии профиля, например кампании Коммунистической партии Кубы, нацеленные на кубинскую общественность³³. Ранее исследователи могли использовать инструменты поиска по изображению для идентификации фотографий, которые были украдены из профилей, а сейчас инициаторы манипуляционных кампаний могут обойти эту стратегию, используя ИИ-сгенерированные фотографии несуществующих людей³⁴.

Хотя платформы социальных сетей уже начали устанавливать ограничения на использование ИИ-сгенерированных изображений и видео, влияние искуственного контента на манипуляционные кампании остается недостаточно изученным. Первые исследования оценивали риск распространения дезинформации, сгенерированной с помощью ИИ, и показали, что языковые модели могут эффективно и убедительно генерировать ложные сведения35, 36. Исследование «Генеративные языковые модели и автоматизированные операции влияния: новые угрозы и потенциальные меры по их устранению» (Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigations), опубликованное в январе 2023 года, ставило своей целью оценить, как LLM влияют на манипуляционные кампании и какие шаги можно предпринять для снижения рисков. На основе структуры поэтапной кибератаки (kill-chain framework) [68] авторы выделили четыре возможных этапа вмешательства: проектирование и разработка модели, доступ к модели, распространение контента, формирование убеждений (см. рис. 5.7)26. Исследователи из Центра безопасности и новых технологий Джорджтаунского университета, OpenAI и интернет-обсерватория Стэнфордского университета (Stanford Internet Observatory) пришли к выводу, что языковые модели могут оказать существенное влияние на будущее манипуляционных кампаний, поскольку позволят автоматизировать создание убедительного враждебного контента в большем масштабе при одновременном снижении затрат на производство. Хотя злоумышленникам не обязательно использовать искусственный интеллект или генеративные модели для проведения таких кампаний, эти инструменты позволяют им выполнить задачу легче и эффективнее. Как видно из известных случаев обхода запретов в социальных сетях, мы можем ожидать, что заинтересованные лица будут по-новому и неожиданными способами использовать LLM в ответ на стратегии защиты и меры противодействия. Кроме того, стоит отметить, что увеличение количества контента, созданного с помощью ИИ, приведет к загрязнению информационной экосистемы, что в свою очередь скажется на обучающих данных для LLM. То есть если злоумышленники генерируют все больше дезинформации с помощью ИИ, то в будущем LLM будут обучаться на огромном количестве потенциально опасного контента.

Как и в случае дипфейков, о чем мы говорили в главе 4, не существует универсального решения для обнаружения или минимизации рисков, связанных с появлением дезинформации, сгенерированной с помощью ИИ. В вышеупомянутом отчете исследователи иллюстрируют этапы запуска и проведения манипуляционных кампаний, в которых используется ИИ, и приводят примеры мер противодействия на каждом этапе (см. рис. 5.7). К таким мерам относится создание «прозрачных» моделей с легко объяснимыми ответами, наложение правительствами и поставщиками ИИ ограничений на широкое внедрение стандартов цифровой подлинности, а также повышение медиаграмотности.

Рис. 5.7. Этапы проведения манипуляционных кампаний с помощью ИИ и примеры мер противодействия ²⁶

Коалиция по вопросам происхождения и подлинности контента (C2PA), созданная силами Adobe, Arm, Intel, Microsoft и Truepic, установила набор технических стандартов для сертификации происхождения (или источника и истории) контента (см. https://c2pa.org/). Технические требования C2PA направлены на устранение недостоверной информации путем проверки фактов об истории создания фрагмента цифровой информации, например: кто создал контент, как, когда, где, а в некоторых случаях, когда и как фрагмент контента редактировался за время его существования. Использование маркеров происхождения на фрагменте контента может предоставить пользователям различные сведения, в том числе о дате создания, авторе и возможном редактировании. Однако использование маркеров происхождения на практике сопряжено с рядом трудностей, включая то, что в программное обеспечение необходимо вносить значительные изменения: создателям контента необходимо отслеживать и демонстрировать такую информацию, социальным сетям, браузерам и подобным приложениям необходимо обнаруживать и считывать маркеры, когда пользователи взаимодействуют с фрагментом контента. К другим проблемам относятся: невозможность использовать сведения о происхождении для уже существующего контента, невозможность использовать маркеры для определенных типов контента (например, обычного текста, который можно скопировать и вставить, не оставляя никаких следов), а также риски нарушения конфиденциальности, если в сведениях о происхождении указывается информация о пользователе²⁶. Однако эти риски можно снизить, если указывать только то, создан ли контент искусственным интеллектом или пользователем, но не сообщать никаких сведений о пользователе.

К многообещающим способам борьбы с манипуляционными кампаниями относятся мероприятия по повышению медиаграмотности и просвещению. Хотя сами по себе они не приведут к разрешению кризиса, но в сочетании с другими стратегиями могут быть эффективны. Успешная кампания по повышению медиаграмотности должна привести к развитию избирательного доверия, которое уменьшается по отношению к ложным новостям и увеличивается по отношению к правдивым сведениям. Для обучения людей медиаграмотности и навыку по выявлению дезинформации необходимо создать сетевую инфраструктуру, которая позволит ориентироваться на различные аудитории, привлекать ценных ключевых участников, выявлять тех, кто наиболее уязвим, реагировать на это и обеспечивать взаимную поддержку между всеми организациями37. Мы знаем, что свою эффективность уже доказало обучение людей следующим методам: латеральное чтение38, ключевая идея которого заключается в оценке достоверности как самого источника, так и содержания, в том числе с помощью других источников; метод SIFT39, описывающий шаги по оценке источника и отслеживанию утверждений до момента их происхождения. Усилия по повышению медиаграмотности, а также нормативно-правовая база могут помочь найти выход не только для самой онлайн-экосистемы, но и для людей, которые ее используют.

В Соединенных Штатах продолжаются споры о регулировании того, подпадает ли генерируемая с помощью искусственного интеллекта речь под защиту от ответственности раздела 230 Закона о пристойном поведении в СМИ. Раздел 230, который часто называют «самым важным законом интернета»⁴⁰, позволяет платформам (и любой организации, управляющей онлайн-пространством, где третьи лица могут размещать контент) размещать высказывания пользователей, не неся юридической ответственности за это⁴¹. В деле «Гонсалес против Google» судья Верховного суда Нил Горсач использовал ИИ-сгенерированный текст в качестве примера ситуации, когда платформы не попадают под защиту раздела 230 [69]^{, 42}. Вскоре после этого законодатели, которые работали над разделом 230, высказали мнение, что технологии генеративного ИИ не должны подпадать под его защиту⁴³. Если тексты от генеративных моделей ИИ, таких как ChatGPT и Bard, действительно не подпадают под действие раздела 230, то компании, вероятно, будут нести ответственность за такой контент, что может побудить их встраивать дополнительные меры безопасности в модели.

С технической точки зрения возможности отличать сгенерированные с помощью ИИ или человека тексты – это важный шаг для предотвращения ненадлежащего использования контента, сгенерированного с помощью LLM. Такая возможность в дальнейшем поможет оценить воздействие генеративных языковых моделей на кампании по манипуляции. GLTR (см. http://gltr.io/), созданный MIT-IBM Watson AI Lab и Harvard NLP, – это визуальный инструмент судебной экспертизы для обнаружения ИИ-сгенерированного текста с помощью тех же моделей, которые создают поддельный текст. Этот инструмент способен выявлять только отдельные случаи, а не масштабные злоупотребления, однако он служит полезным примером использования LLM для усовершенствования технологии обнаружения сгенерированного с помощью ИИ контента. Исследования, в которых языковые модели используются для выявления ИИ-сгенерированного текста, показывают, что люди-оценщики гораздо менее точно справляются с задачей по выявлению такого текста по сравнению с моделями глубокого обучения⁴⁴. Кроме методов классификации с учителем, исследователи экспериментировали с новыми методами обнаружения сгенерированного с помощью ИИ текста, такие как обучения без учителя⁴⁵ и графовые нейронные сети⁴⁶. Методы глубокого обучения также завоевали популярность в решении задачи по обнаружению ложных сведений и дезинформации⁴⁷. Специально для обнаружения дезинформации с помощью языковых моделей были разработаны LLM с интегрированными базами знаний (такими как Wikidata), которые показали свою эффективность при работе со статическим набором данных⁴⁸.

Для надлежащего решения этой проблемы необходимы дальнейшие исследования того, как теперь проводятся кампании по манипуляции мнением и дезинформации с использованием ИИ, а также изучение эффективности методов противодействия и обнаружения. Наконец, для устранения рисков злоупотребления генеративными ИИ-моделями важное значение имеет совместная реакция платформ социальных сетей, компаний, занимающихся искусственным интеллектом, правительств и гражданского общества. Рабочая группа, возглавляемая Клэр Уордл, предложила следующую рекомендацию для борьбы с манипуляционными кампаниями – создать постоянный международный институт для мониторинга и изучения информационных проблем, который должен работать независимо от правительства и платформ, а финансироваться централизованно³⁷. Дезинформация – глобальное и кроссплатформенное явление, которое будет только разрастаться по мере использования генеративных языковых моделей, однако ответные меры в основном сфокусированы на национальном или региональном уровнях и часто даже на конкретной платформе. Но дезинформация – проблема не только платформ, поэтому постоянно действующий независимый орган требовал бы прозрачности как от платформ, так и от правительств, уделял особое внимание информационной среде в целом и работал над повышением глобальной устойчивости.

5.3. Политическая предвзятость и предвыборная агитация

Кроме операций влияния, LLM могут использоваться в таких «серых» областях, как предвыборная агитация и создание идеологизированного контента. Как упоминалось в предыдущем разделе, за последние несколько лет распространение ложной информации стало предметом пристального внимания, и все крупные платформы социальных сетей внедрили определенные правила в отношении дезинформации. В некоторых случаях манипуляции легко обнаружить, но на практике часто бывает невероятно сложно определить, является ли конкретный фрагмент контента ложной информацией или дезинформацией, а ответ может зависеть от того, кто оценивает. Тем не менее уже предприняты некоторые масштабные усилия по принятию мер, включая Кодекс мер против дезинформации (Code of Practice on Disinformation) в Европейском союзе – добровольные руководящие принципы, которым следуют стороны, подписавшие соглашение⁴⁹. Эти методические принципы не устанавливают определенные стандарты для контента, а фокусируются на обеспечении доступа для исследователей и сторонних фактчекеров, а также на прозрачности рекламы. Идеологизированный контент, в котором может высказываться предвзятое положительное или отрицательное отношение к определенной точке зрения, при условии, что это не нарушает политику в отношении контента, полностью разрешен и фактически является важным компонентом свободы выражения мнения на платформах.

Использование чат-ботов, бесспорно, имеет особенности в сравнении с социальными сетями, но есть несколько общих черт. Разработчики LLM, как и социальных сетей, должны чувствовать необходимость установить политику в отношении того, что их чат-боты могут говорить, а что нет, включая воспроизведение дезинформации, пропаганды или просто пристрастных взглядов из интернета. Однако эти компании, как и разработчики социальных сетей, вскоре обнаружат, что, устанавливая границы, не могут угодить всем. Кроме того, из-за вероятностного характера ответов LLM разработчикам может быть очень сложно определить, почему модель ответила на вопрос именно таким образом, и, следовательно, им также будет сложно повлиять на будущие ответы LLM.

После выхода ChatGPT консерваторы в Соединенных Штатах раскритиковали этот инструмент за то, что он придерживается левых политических взглядов⁵⁰. Некоторые громкие примеры, которыми люди поделились в интернете, демонстрировали, как ChatGPT отказывался написать слова уважения представителям правых, таким как сенатор Тед Круз и экс-президент Дональд Трамп, но при этом исполнил просьбу сделать это для сенатора Ильхана Омара и президента Джо Байдена⁵¹. Ученые Института Брукингса провели исследование, в ходе которого спросили ChatGPT, поддерживает ли тот ряд политических заявлений, и обнаружили, что он в большей степени согласен со взглядами Демократической партии, чем Республиканской (хотя не все ответы были последовательными); в своем препринте исследователи из Технического университета Мюнхена и Университета Гамбурга пришли к выводу, что ChatGPT имеет «экологическую, лево-либертарианскую ориентацию»⁵². Новозеландский специалист по обработке данных Дэвид Розадо задокументировал некоторые примеры ответов ChatGPT, которые, по его мнению, были левого уклона, а затем выпустил LLM под названием RightWingGPT, которую обучил выражать такие точки зрения, как поддержка права на ношение оружия и минимальное налогообложение [70]^{, 53}.

Уже давно известно, что системы искусственного интеллекта предрасположены впитывать предубеждения от своих создателей и обучающих данных. В случае с LLM, после предварительного обучения они почти неизбежно будут поддерживать какие-либо политические установки, а не придерживаться нейтралитета. В конце концов, они предсказывают продолжение текста, используя материалы из интернета. Еще одним потенциальным источником очевидных политических пристрастий является тонкая настройка с подкреплением и обратной связью от человека, во время которой люди выбирают лучшие ответы на вопросы пользователей. Генеральный директор OpenAI Сэм Альтман в интервью для подкаста сказал: «Предвзятость, из-за которой я больше всего нервничаю, – это предвзятость людей, которые оценивают ответы», – и отметил, что ни Сан-Франциско, где находится офис OpenAI, ни сама область искусственного интеллекта в целом не отличаются идеологическим разнообразием⁵².

Политическая нейтральность, которая, весьма вероятно, является желаемой целью крупных технологических компаний, разрабатывающих LLM, должна стать характеристикой, усвоенной в процессе обучения. Следуя стратегиям по ограничению небезопасных ответов, о которых мы говорили в главе 3, разработчики LLM могут попытаться блокировать в своих моделях выражение каких-либо политических мнений или убеждений. Такая позиция вынуждает к компромиссу между точным следованием инструкциям пользователя или возможностью быть менее «полезной», но более нейтральной; сама задача также становится более трудоемкой и сложной. Сказать, какие вопросы являются «политическими» и как лучше всего справиться с ними, при этом не омрачая опыт пользователей, непросто ни с точки зрения политики, ни с точки зрения реализации.

Можно усомниться в важности вопроса, соглашается или нет чат-бот с каким-либо законодательным предложением, но в сочетании с технологиями информационных операций, о которых мы говорили выше, очевидна обеспокоенность обеих партий, что LLM могут влиять на поведение избирателей или убеждать их скрытыми способами (и есть некоторые отрывочные свидетельства, что это действительно возможно)⁵⁴. В мае 2023 года судебный подкомитет Сената по вопросам конфиденциальности, технологий и законодательства провел слушания по регулированию в области использования искусственного интеллекта, и одной из тем было возможное влияние LLM на выборы. Сенатор Джош Хоули из Миссури задал вопрос генеральному директору OpenAI Сэму Альтману о том, следует ли членам комитета беспокоиться о LLM, которые потенциально могут предсказать мнение участников опроса и помочь организациям найти эффективные стратегии рассылки сообщений, чтобы добиться определенного поведения избирателей. Хоули отметил, что поиск в Google, как было показано, тоже оказывает влияние на избирателей, «особенно в последние дни перед выборами на неопределившихся избирателей, которые могут искать информацию в Google», и предположил, что LLM могут оказывать эффект «на порядок сильнее»⁵⁵.

Альтман ответил, что сценарий, описанный Хоули, беспокоил его больше всего. Он заявил, что OpenAI будет поддерживать законодательное регулирование в этой области, поскольку считает, что люди имеют право знать, разговаривают ли они с чат-ботом или с человеком и сгенерирован ли искусственным интеллектом контент, который они видят; однако он не уточнил, как это может работать на практике.

Илон Маск, генеральный директор Tesla и владелец X (Twitter), был одним из соучредителей OpenAI в 2015 году, когда она работала как некоммерческая исследовательская организация. Он покинул компанию в 2018 году, как сообщается, после неудачной попытки взять ее под контроль; позже команда OpenAI создала коммерческую организацию для финансирования своих исследований⁵⁶. Маск критически отнесся к изменению бизнес-модели, публично заявил о рисках, связанных с ИИ, и подписал открытое письмо Future of Life Institute, призывающее к приостановке разработки больших языковых моделей, превышающих возможности GPT‐4⁵⁷. В интервью Такеру Карлсону Маск заявил, что будет работать над альтернативой ChatGPT под названием TruthGPT: «Я собираюсь создать ИИ под названием TruthGPT, максимально стремящийся к правде, который будет пытаться понять природу Вселенной»⁵⁸.

Другие исследователи предлагают более технические подходы к «поиску истины». Джон Шульман, еще один соучредитель OpenAI и архитектор ChatGPT, раздосадован тем фактом, что когда люди читают утверждения, сгенерированные LLM, то принимают их за истинные, то есть ответы ИИ кажутся убедительными или правильными. Он утверждает, что теория хороша тогда и только тогда, когда ее можно проверить. В идеале теории должны проверяться путем составления прогнозов о будущем, когда истинность утверждения может стать доказуемой. По-настоящему «ищущий истину» ИИ мог бы делать предсказания, оценивать их правильность, а затем, хотелось бы надеяться, учиться на своих ошибках⁵⁹. На данный момент это в основном гипотетическая концепция, но в конечном итоге она поможет LLM перейти от механического повторения или аппроксимации знаний к генерации новых. А пока это не произошло, создателям LLM придется принимать в расчет склонность этих моделей выражать осведомленность о вещах, которые не соответствуют действительности или никогда не происходили.

5.4. Откуда у LLM галлюцинации?

В главе 1 мы познакомились с понятием галлюцинаций – явления, при котором чат-боты в ответ на промпт могут уверенно генерировать неверную информацию и объяснения. Галлюцинации могут возникать как неконтролируемо, так и в результате злонамеренного пользовательского ввода. Эта уязвимость задокументирована для всех известных LLM, и, чтобы понять ее, мы вернемся к процессу обучения таких моделей. LLM обучаются задаче предсказывать следующее слово по заданному тексту, причем обучение происходит на основе текстов из интернета. То есть они учатся воспроизводить типичные языковые шаблоны. Только из-за одной этой задачи LLM демонстрируют несколько типов поведения, которые создают условия для возникновения галлюцинаций: продолжение текста, предсказанное LLM, вряд ли будет выражать сомнение и еще менее вероятно будет оспаривать изначальное суждение пользователя. В качестве конкретного примера давайте рассмотрим промпт, который ученый-когнитивист Дуглас Хофштадтер задал GPT‐3: «Когда мост Золотые Ворота был во второй раз перевезен через Египет?» GPT‐3 в ответ сказал: «Мост Золотые Ворота был перевезен через Египет второй раз в октябре 2016 года»60. Поскольку GPT‐3 (по всей вероятности) не встречал в своих обучающих данных ни одного предложения о том, как мост Золотые Ворота перевозился через Египет, но усвоил шаблон для ответа на такой тип вопроса, то выдвинул свое предположение. Он, в отличие от человека, не смог догадаться, что это вопрос с подвохом и упомянутое событие никогда не происходило. Такие галлюцинации могут использоваться при создании злонамеренной трактовки событий, поскольку люди могут задавать наводящие вопросы и приводить ответы модели в качестве доказательства своих утверждений.

LLM – это очень большие нейронные сети; после их обучения мы можем считать, что каждая LLM обладает определенным набором знаний, который будет зависеть от данных, размера модели, архитектуры и других технических деталей обучения. В своем выступлении в Калифорнийском университете в Беркли Шульман описывает LLM как систему, имеющую граф знаний, хранящийся в весовых коээфициентах нейронной сети. Граф знаний – это концептуальный инструмент, который представляет знания в виде набора отдельных сущностей в форме узлов и ребер, соединяющих их⁶¹. Небольшой граф знаний, содержащий несколько таких сущностей и связей, показан на рис. 5.8 ниже.

Рис. 5.8. Пример графа знаний

[63] NewsGuard – организация, поставляющая инструменты, которые позволяют оценить доверие к новостным сайтам в интернете и отслеживать ложную информацию онлайн. – Прим. авт.

[64] Незаконное потребление наркотических средств, психотропных веществ, их аналогов причиняет вред здоровью, их незаконный оборот запрещен и влечет установленную законодательством ответственность.

[65] Книга «Майн кампф» Адольфа Гитлера запрещена на территории РФ и признана экстремистской литературой.

[66] Принадлежит организации Meta, которая признана экстремистской и запрещена на территории РФ.

[67] Epoch Media Group – международная ультраправая медиакомпания, связанная с новым религиозным движением Фалуньгун. – Прим. авт.

[68] Описывает этапы подготовки и проведения кибератаки, позволяет спланировать меры противодействия на каждом этапе. – Прим. ред.

[69] Аргумент судьи заключался в том, что функции платформ выходят за рамки только сортировки и распространения контента. В качестве примера судья привел генерацию рекомендаций. – Прим. науч. ред.

[70] То, что поддерживают правые. – Прим. науч. ред.